1. Η Α.Π.Δ.Π.Χ. και οι αρχές εποπτείας της αγοράς της παρ. 2 του άρθρου 3 παρακολουθούν, στο πλαίσιο των αρμοδιοτήτων τους, τη διεξαγωγή δοκιμών συστημάτων ΤΝ υψηλού κινδύνου σε πραγματικές συνθήκες εκτός των ρυθμιστικών δοκιμαστηρίων ΤΝ, σύμφωνα με το άρθρο 60 του Κανονισμού για την ΤΝ, και δύνανται να ζητούν πληροφορίες από τους παρόχους ή τους μελλοντικούς παρόχους σχετικά με τις δοκιμές.
2. Η απαιτούμενη, με βάση την παρ. 4 του άρθρου 60 του Κανονισμού για την ΤΝ, έγκριση της δοκιμής συστημάτων ΤΝ σε πραγματικές συνθήκες και του σχεδίου δοκιμής σε πραγματικές συνθήκες, από την Α.Π.Δ.Π.Χ. ή την αρμόδια αρχή εποπτείας της αγοράς της παρ. 2 του άρθρου 3, παρέχεται μόνο κατόπιν ρητής έγγραφης άδειας της ως άνω αρμόδιας αρχής. Η άπρακτη παρέλευση της προθεσμίας των τριάντα (30) ημερών της περ. β) της παρ. 4 του άρθρου 60 του Κανονισμού για την ΤΝ δεν τεκμαίρεται ως έγκριση.
Η δυνατότητα διενέργειας δοκιμών σε πραγματικές συνθήκες αποτελεί σημαντικό στοιχείο για την ανάπτυξη, αξιολόγηση και ασφαλή χρήση συστημάτων τεχνητής νοημοσύνης. Η αποτελεσματική εφαρμογή του σχετικού πλαισίου προϋποθέτει την εξισορρόπηση δύο εξίσου σημαντικών επιδιώξεων: αφενός της αναγκαίας εποπτείας των δοκιμών σε πραγματικές συνθήκες και αφετέρου της διαμόρφωσης μιας σαφούς, προβλέψιμης και λειτουργικής διαδικασίας, η οποία υποστηρίζει την υπεύθυνη ανάπτυξη και τη διάθεση αξιόπιστων συστημάτων ΤΝ.
Στο πλαίσιο αυτό, θα μπορούσε να εξεταστεί η αξιοποίηση της δυνατότητας που παρέχει ο Κανονισμός (ΕΕ) 2024/1689 για τεκμαιρόμενη έγκριση της δοκιμής και του σχεδίου δοκιμής σε περίπτωση άπρακτης παρέλευσης της προβλεπόμενης προθεσμίας των τριάντα (30) ημερών. Μια τέτοια πρόβλεψη θα μπορούσε να ενισχύσει την προβλεψιμότητα της διαδικασίας, να περιορίσει ενδεχόμενες διοικητικές καθυστερήσεις και να ενθαρρύνει την έγκαιρη ολοκλήρωση της διαδικασίας αξιολόγησης από την αρμόδια αρχή.
Εφόσον, ωστόσο, επιλεγεί η διατήρηση της απαίτησης προηγούμενης ρητής έγκρισης, θα ήταν σκόπιμο η σχετική διαδικασία να ενισχυθεί με ορισμένες πρόσθετες διαδικαστικές εγγυήσεις, όπως ενδεικτικά:
-έκδοση από την αρμόδια αρχή, εντός συγεκριμένης προθεσμίας, ρητής και ειδικώς αιτιολογημένης απόφασης,
-δυνατότητα υποβολής συμπληρωματικών στοιχείων ή διευκρινίσεων από τον πάροχο, πριν από την έκδοση απορριπτικής απόφασης,
-δημοσίευση βασικών κριτηρίων αξιολόγησης και των απαιτούμενων στοιχείων για την υποβολή και αξιολόγηση των αιτήσεων, με σκοπό την ομοιόμορφη εφαρμογή της διαδικασίας και την ενίσχυση της προβλεψιμότητας.
Οι ανωτέρω προτάσεις αποσκοπούν στη διευκόλυνση της αποτελεσματικής εφαρμογής του άρθρου, συνδυάζοντας την αναγκαία εποπτεία των δοκιμών με μια διαφανή και αποδοτική διοικητική διαδικασία, η οποία συμβάλλει τόσο στην προστασία των θεμελιωδών δικαιωμάτων όσο και στη δημιουργία των κατάλληλων προϋποθέσεων για την υπεύθυνη ανάπτυξη αξιόπιστων συστημάτων τεχνητής νοημοσύνης και την ενίσχυση της καινοτομίας.
Οι δοκιμές σε πραγματικές συνθήκες πρέπει να γίνονται με ασφάλεια, αλλά και με σαφήνεια, ταχύτητα και προβλεψιμότητα
Το άρθρο 13 ρυθμίζει ένα κρίσιμο ζήτημα: τη δυνατότητα δοκιμής συστημάτων τεχνητής νοημοσύνης υψηλού κινδύνου σε πραγματικές συνθήκες, εκτός των ρυθμιστικών δοκιμαστηρίων.
Η πρόβλεψη εποπτείας από την ΑΠΔΠΧ και τις αρμόδιες αρχές εποπτείας της αγοράς είναι αναγκαία, ιδίως όταν τα συστήματα ΤΝ μπορεί να επηρεάζουν δικαιώματα, ασφάλεια, υγεία, πρόσβαση σε υπηρεσίες ή κρίσιμες αποφάσεις. Οι δοκιμές σε πραγματικές συνθήκες δεν μπορούν να γίνονται χωρίς έλεγχο, χωρίς σχέδιο δοκιμής και χωρίς σαφή ευθύνη του παρόχου.
Ωστόσο, η ρύθμιση πρέπει να διασφαλίζει και την αναγκαία προβλεψιμότητα για τις επιχειρήσεις, τις ερευνητικές ομάδες, τα πανεπιστήμια, τους δημόσιους φορείς και τις startups που αναπτύσσουν καινοτόμες λύσεις ΤΝ. Αν η διαδικασία έγκρισης γίνει ασαφής, χρονοβόρα ή υπερβολικά γραφειοκρατική, υπάρχει κίνδυνος να αποθαρρυνθούν σοβαρές και υπεύθυνες δοκιμές στην Ελλάδα.
Ιδίως η πρόβλεψη ότι η άπρακτη παρέλευση της προθεσμίας των τριάντα ημερών δεν τεκμαίρεται ως έγκριση μπορεί να είναι κατανοητή από πλευράς προστασίας, αλλά πρέπει να συνοδευτεί από ισχυρές εγγυήσεις διοικητικής ταχύτητας. Διαφορετικά, οι πάροχοι θα βρίσκονται σε κατάσταση αβεβαιότητας, χωρίς να γνωρίζουν αν, πότε και με ποιους όρους μπορούν να ξεκινήσουν τη δοκιμή.
Προτείνεται να προβλεφθεί ρητά ότι η αρμόδια αρχή οφείλει να απαντά εντός συγκεκριμένης προθεσμίας, είτε εγκρίνοντας είτε απορρίπτοντας αιτιολογημένα το σχέδιο δοκιμής. Σε περίπτωση που απαιτούνται συμπληρωματικά στοιχεία, αυτά πρέπει να ζητούνται έγκαιρα και με σαφήνεια, ώστε να μη μετατρέπεται η διαδικασία σε αόριστη αναμονή.
Επιπλέον, η απόρριψη μιας δοκιμής σε πραγματικές συνθήκες πρέπει να είναι ειδικά αιτιολογημένη και να αναφέρει ποια στοιχεία του σχεδίου δοκιμής θεωρούνται ανεπαρκή. Με αυτόν τον τρόπο ο πάροχος θα μπορεί να διορθώσει το σχέδιο, να επανέλθει και να συμμορφωθεί, αντί να αποκλείεται χωρίς πρακτική καθοδήγηση.
Προτείνεται ειδικότερα να προβλεφθούν:
α) σαφής διαδικασία υποβολής και αξιολόγησης του σχεδίου δοκιμής,
β) δεσμευτική προθεσμία απάντησης της αρμόδιας αρχής,
γ) υποχρέωση αιτιολόγησης σε περίπτωση απόρριψης ή επιβολής όρων,
δ) δυνατότητα συμπλήρωσης ή διόρθωσης του σχεδίου δοκιμής από τον πάροχο,
ε) αναλογική προσέγγιση ανάλογα με το επίπεδο κινδύνου, τον αριθμό των συμμετεχόντων, τη διάρκεια της δοκιμής και τον τομέα εφαρμογής,
στ) ειδικές εγγυήσεις για ευάλωτες ομάδες, ασθενείς, εργαζομένους, μαθητές και πολίτες που επηρεάζονται από δημόσιες υπηρεσίες,
ζ) υποχρεωτική ενημέρωση των προσώπων που συμμετέχουν ή επηρεάζονται από τη δοκιμή, όπου αυτό απαιτείται,
η) σαφής πρόβλεψη για ανθρώπινη εποπτεία, δυνατότητα διακοπής της δοκιμής και διαχείριση τυχόν ανεπιθύμητων επιπτώσεων.
Ιδιαίτερη προσοχή χρειάζεται στον τομέα της υγείας. Οι δοκιμές συστημάτων ΤΝ που σχετίζονται με πρόληψη, διάγνωση, θεραπεία, παρακολούθηση ασθενών, διαχείριση χρόνιων νοσημάτων ή υποστήριξη κλινικής απόφασης πρέπει να γίνονται με αυξημένες εγγυήσεις ασφάλειας και με συμμετοχή των αρμόδιων επιστημονικών και εποπτικών φορέων. Παράλληλα, δεν πρέπει να δημιουργηθεί ένα πλαίσιο τόσο βαρύ ώστε να αποθαρρύνει την ανάπτυξη και υπεύθυνη δοκιμή χρήσιμων εφαρμογών ΤΝ στην υγεία.
Το ζητούμενο δεν είναι να επιτραπούν ανεξέλεγκτες δοκιμές. Το ζητούμενο είναι να δημιουργηθεί ένα πλαίσιο όπου οι δοκιμές θα γίνονται με ασφάλεια, διαφάνεια, ανθρώπινη εποπτεία και πραγματική προστασία των πολιτών, αλλά και με σαφείς κανόνες που επιτρέπουν στην καινοτομία να προχωρήσει.
Για τον λόγο αυτό, το άρθρο 13 πρέπει να ενισχυθεί με προβλέψεις που θα διασφαλίζουν όχι μόνο τον έλεγχο των δοκιμών σε πραγματικές συνθήκες, αλλά και την ταχύτητα, την αιτιολόγηση, την αναλογικότητα και την προβλεψιμότητα της διαδικασίας.
Η Ελλάδα πρέπει να προστατεύσει τους πολίτες από μη ασφαλή ή ανεπαρκώς ελεγμένα συστήματα ΤΝ. Ταυτόχρονα, όμως, πρέπει να επιτρέψει σε σοβαρούς φορείς να δοκιμάζουν υπεύθυνα νέες λύσεις, ώστε η χώρα να μη μείνει πίσω στην ανάπτυξη και αξιοποίηση αξιόπιστης τεχνητής νοημοσύνης.