Υπουργείο Ψηφιακής Διακυβέρνησης

Δικτυακός Τόπος Διαβουλεύσεων

• Σχόλιο του χρήστη 'Μαραλέτος Παναγιώτης' | 4 Ιουλίου 2026, 10:09

  Μόνιμος Σύνδεσμος

  Οι δοκιμές σε πραγματικές συνθήκες πρέπει να γίνονται με ασφάλεια, αλλά και με σαφήνεια, ταχύτητα και προβλεψιμότητα Το άρθρο 13 ρυθμίζει ένα κρίσιμο ζήτημα: τη δυνατότητα δοκιμής συστημάτων τεχνητής νοημοσύνης υψηλού κινδύνου σε πραγματικές συνθήκες, εκτός των ρυθμιστικών δοκιμαστηρίων. Η πρόβλεψη εποπτείας από την ΑΠΔΠΧ και τις αρμόδιες αρχές εποπτείας της αγοράς είναι αναγκαία, ιδίως όταν τα συστήματα ΤΝ μπορεί να επηρεάζουν δικαιώματα, ασφάλεια, υγεία, πρόσβαση σε υπηρεσίες ή κρίσιμες αποφάσεις. Οι δοκιμές σε πραγματικές συνθήκες δεν μπορούν να γίνονται χωρίς έλεγχο, χωρίς σχέδιο δοκιμής και χωρίς σαφή ευθύνη του παρόχου. Ωστόσο, η ρύθμιση πρέπει να διασφαλίζει και την αναγκαία προβλεψιμότητα για τις επιχειρήσεις, τις ερευνητικές ομάδες, τα πανεπιστήμια, τους δημόσιους φορείς και τις startups που αναπτύσσουν καινοτόμες λύσεις ΤΝ. Αν η διαδικασία έγκρισης γίνει ασαφής, χρονοβόρα ή υπερβολικά γραφειοκρατική, υπάρχει κίνδυνος να αποθαρρυνθούν σοβαρές και υπεύθυνες δοκιμές στην Ελλάδα. Ιδίως η πρόβλεψη ότι η άπρακτη παρέλευση της προθεσμίας των τριάντα ημερών δεν τεκμαίρεται ως έγκριση μπορεί να είναι κατανοητή από πλευράς προστασίας, αλλά πρέπει να συνοδευτεί από ισχυρές εγγυήσεις διοικητικής ταχύτητας. Διαφορετικά, οι πάροχοι θα βρίσκονται σε κατάσταση αβεβαιότητας, χωρίς να γνωρίζουν αν, πότε και με ποιους όρους μπορούν να ξεκινήσουν τη δοκιμή. Προτείνεται να προβλεφθεί ρητά ότι η αρμόδια αρχή οφείλει να απαντά εντός συγκεκριμένης προθεσμίας, είτε εγκρίνοντας είτε απορρίπτοντας αιτιολογημένα το σχέδιο δοκιμής. Σε περίπτωση που απαιτούνται συμπληρωματικά στοιχεία, αυτά πρέπει να ζητούνται έγκαιρα και με σαφήνεια, ώστε να μη μετατρέπεται η διαδικασία σε αόριστη αναμονή. Επιπλέον, η απόρριψη μιας δοκιμής σε πραγματικές συνθήκες πρέπει να είναι ειδικά αιτιολογημένη και να αναφέρει ποια στοιχεία του σχεδίου δοκιμής θεωρούνται ανεπαρκή. Με αυτόν τον τρόπο ο πάροχος θα μπορεί να διορθώσει το σχέδιο, να επανέλθει και να συμμορφωθεί, αντί να αποκλείεται χωρίς πρακτική καθοδήγηση. Προτείνεται ειδικότερα να προβλεφθούν: α) σαφής διαδικασία υποβολής και αξιολόγησης του σχεδίου δοκιμής, β) δεσμευτική προθεσμία απάντησης της αρμόδιας αρχής, γ) υποχρέωση αιτιολόγησης σε περίπτωση απόρριψης ή επιβολής όρων, δ) δυνατότητα συμπλήρωσης ή διόρθωσης του σχεδίου δοκιμής από τον πάροχο, ε) αναλογική προσέγγιση ανάλογα με το επίπεδο κινδύνου, τον αριθμό των συμμετεχόντων, τη διάρκεια της δοκιμής και τον τομέα εφαρμογής, στ) ειδικές εγγυήσεις για ευάλωτες ομάδες, ασθενείς, εργαζομένους, μαθητές και πολίτες που επηρεάζονται από δημόσιες υπηρεσίες, ζ) υποχρεωτική ενημέρωση των προσώπων που συμμετέχουν ή επηρεάζονται από τη δοκιμή, όπου αυτό απαιτείται, η) σαφής πρόβλεψη για ανθρώπινη εποπτεία, δυνατότητα διακοπής της δοκιμής και διαχείριση τυχόν ανεπιθύμητων επιπτώσεων. Ιδιαίτερη προσοχή χρειάζεται στον τομέα της υγείας. Οι δοκιμές συστημάτων ΤΝ που σχετίζονται με πρόληψη, διάγνωση, θεραπεία, παρακολούθηση ασθενών, διαχείριση χρόνιων νοσημάτων ή υποστήριξη κλινικής απόφασης πρέπει να γίνονται με αυξημένες εγγυήσεις ασφάλειας και με συμμετοχή των αρμόδιων επιστημονικών και εποπτικών φορέων. Παράλληλα, δεν πρέπει να δημιουργηθεί ένα πλαίσιο τόσο βαρύ ώστε να αποθαρρύνει την ανάπτυξη και υπεύθυνη δοκιμή χρήσιμων εφαρμογών ΤΝ στην υγεία. Το ζητούμενο δεν είναι να επιτραπούν ανεξέλεγκτες δοκιμές. Το ζητούμενο είναι να δημιουργηθεί ένα πλαίσιο όπου οι δοκιμές θα γίνονται με ασφάλεια, διαφάνεια, ανθρώπινη εποπτεία και πραγματική προστασία των πολιτών, αλλά και με σαφείς κανόνες που επιτρέπουν στην καινοτομία να προχωρήσει. Για τον λόγο αυτό, το άρθρο 13 πρέπει να ενισχυθεί με προβλέψεις που θα διασφαλίζουν όχι μόνο τον έλεγχο των δοκιμών σε πραγματικές συνθήκες, αλλά και την ταχύτητα, την αιτιολόγηση, την αναλογικότητα και την προβλεψιμότητα της διαδικασίας. Η Ελλάδα πρέπει να προστατεύσει τους πολίτες από μη ασφαλή ή ανεπαρκώς ελεγμένα συστήματα ΤΝ. Ταυτόχρονα, όμως, πρέπει να επιτρέψει σε σοβαρούς φορείς να δοκιμάζουν υπεύθυνα νέες λύσεις, ώστε η χώρα να μη μείνει πίσω στην ανάπτυξη και αξιοποίηση αξιόπιστης τεχνητής νοημοσύνης.