1. Στην Ειδική Γραμματεία Τεχνητής Νοημοσύνης και Διακυβέρνησης Δεδομένων του Υπουργείου Ψηφιακής Διακυβέρνησης συστήνεται και λειτουργεί ενιαίο μητρώο συστημάτων ΤΝ (εφεξής: «Μητρώο»), τα οποία χρησιμοποιούνται από φορείς του δημοσίου τομέα, όπως αυτός ορίζεται στην περ. α) της παρ. 1 του άρθρου 14 του ν. 4270/2014 (Α’ 143).
2. Κάθε φορέας του δημοσίου τομέα που σκοπεύει να χρησιμοποιήσει σύστημα ΤΝ, υποχρεούται να υποβάλει, πριν από την έναρξη της λειτουργίας του συστήματος, δήλωση καταχώρισης έργου ΤΝ στο Μητρώο.
3. Στη δήλωση της παρ. 2 περιλαμβάνονται υποχρεωτικά, κατ’ ελάχιστον, οι ακόλουθες πληροφορίες:
α) η ονομασία του συστήματος,
β) ο επιδιωκόμενος σκοπός του συστήματος, συμπεριλαμβανομένου του προβλήματος που αντιμετωπίζεται και του δημόσιου συμφέροντος που εξυπηρετείται μέσω της χρήσης του προτεινόμενου συστήματος,
γ) το προτεινόμενο χρονοδιάγραμμα για τη λειτουργία του συστήματος,
δ) οι κατηγορίες δεδομένων, συμπεριλαμβανομένων των δεδομένων προσωπικού χαρακτήρα, που συλλέγονται, τυγχάνουν επεξεργασίας, εισάγονται στο σύστημα ή παράγονται από αυτό,
ε) οι δυνατότητες, τα τεχνικά χαρακτηριστικά και οι παράμετροι λειτουργίας του συστήματος, καθώς και πληροφορίες για τα μοντέλα γενικού σκοπού, τα οποία ενδέχεται να χρησιμοποιηθούν,
στ) το είδος και οι κατηγορίες των αποφάσεων που λαμβάνονται ή των πράξεων που εκδίδονται με τη συμμετοχή του συστήματος, ή υποστηρίζονται από αυτό,
ζ) οι κίνδυνοι οι οποίοι ενδέχεται να προκύψουν για τα δικαιώματα, τις ελευθερίες και τα έννομα συμφέροντα των φυσικών ή νομικών προσώπων, από τη χρήση του συστήματος, ιδίως για φυλετικές, εθνοτικές, κοινωνικές ή ηλικιακές ομάδες και κατηγορίες του πληθυσμού, όπως είναι τα άτομα με αναπηρία ή χρόνιες παθήσεις,
η) η τεκμηριωμένη ταξινόμηση του συστήματος ΤΝ βάσει του Κανονισμού για την ΤΝ, ιδίως εάν πρόκειται για σύστημα ΤΝ υψηλού κινδύνου δυνάμει του άρθρου 6 του ίδιου Κανονισμού,
θ) τα μέτρα που λαμβάνονται για την ασφαλή λειτουργία του,
ι) η διενέργεια εκτίμησης επιπτώσεων στα θεμελιώδη δικαιώματα του άρθρου 27 του Κανονισμού για την ΤΝ, εφόσον απαιτείται, και
ια) η διενέργεια εκτίμησης αντικτύπου του άρθρου 35 του Κανονισμού (ΕΕ) 2016/679 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου της 27ης Απριλίου 2016 για την προστασία των φυσικών προσώπων έναντι της επεξεργασίας των δεδομένων προσωπικού χαρακτήρα και για την ελεύθερη κυκλοφορία των δεδομένων αυτών και την κατάργηση της Οδηγίας 95/46/ΕΚ (Γενικός Κανονισμός για την Προστασία Δεδομένων) (L 119), εφόσον απαιτείται.
4. Για την υποβολή της δήλωσης της παρ. 2, τη συγκέντρωση, την καταγραφή και την επικαιροποίηση των πληροφοριών της παρ. 3, την επικοινωνία με την Ειδική Γραμματεία Τεχνητής Νοημοσύνης και Διακυβέρνησης Δεδομένων του Υπουργείου Ψηφιακής Διακυβέρνησης, καθώς και κάθε άλλο θέμα που σχετίζεται με τη δήλωση καταχώρισης ή με καταχωρισμένο έργο ΤΝ στο Μητρώο, αρμόδιος για κάθε φορέα της περ. γ) της παρ. 1 του άρθρου 14 του ν. 4270/2014 είναι ο Υπεύθυνος για τη Χρήση Δεδομένων (Υ.Χ.Δ.) του άρθρου 13 του ν. 5188/2025 (Α΄ 49) και για τους υπόλοιπους φορείς της περ. α) της παρ. 1 του άρθρου 14 του ν. 4270/2014 ο προϊστάμενος της υπηρεσίας που είναι αρμόδια για τα αντικείμενα των τεχνολογιών πληροφορικής και επικοινωνίας και της ηλεκτρονικής διακυβέρνησης, με τον αναπληρωτή του.
Η ΕΕΛΛΑΚ προτείνει τη διεύρυνση των πεδίων καταγραφής του Μητρώου, ώστε αυτό να αποτυπώνει τον βαθμό ανοικτότητας κάθε συστήματος. Η προσθήκη παραμένει εντός του αντικειμένου του άρθρου (καταγραφή πληροφοριών) και δεν επιβάλλει ανοικτή διάθεση· απλώς διακρίνει την πλήρη ανοικτότητα από τα απλώς «ανοικτά βάρη», αποτρέποντας την παραπλανητική εμφάνιση κλειστών συστημάτων ως ανοικτών (open-washing).
Προτείνεται να καταχωρίζονται επιπλέον:
α) η άδεια χρήσης του λογισμικού και του υποκείμενου μοντέλου και ο βαθμός ανοικτότητάς του, με καταγραφή του κατά πόσον το μοντέλο είναι: (i) πλήρως ανοικτό, ήτοι διαθέτει υπό ελεύθερη/ανοικτή άδεια τις παραμέτρους (βάρη), τον πηγαίο κώδικα εκπαίδευσης και εκτέλεσης, καθώς και τα σύνολα δεδομένων εκπαίδευσης ή, κατ’ ελάχιστον, επαρκή πληροφόρηση γι’ αυτά ώστε να είναι δυνατή η μελέτη και η αναπαραγωγή του· (ii) «ανοικτών βαρών» (open-weights)· ή (iii) κλειστό·
β) η διαθεσιμότητα και ο σύνδεσμος του τεκμηριωμένου πηγαίου κώδικα, της τεκμηρίωσης του μοντέλου (model card) και των συνόλων δεδομένων εκπαίδευσης, εφόσον υφίστανται·
γ) τα μη προσωπικά δεδομένα του Μητρώου διατίθενται ως ανοικτά δεδομένα σε μηχαναγνώσιμο μορφότυπο.»
Η δημιουργία ενιαίου Μητρώου συστημάτων ΤΝ του Δημοσίου αποτελεί θετική ρύθμιση. Ωστόσο, δεν διευκρινίζεται εάν και σε ποιον βαθμό οι καταχωρίσεις θα είναι προσβάσιμες στο κοινό, ούτε προβλέπεται συγκεκριμένη υποχρέωση επικαιροποίησής τους.
Προτείνεται να προβλεφθεί δημόσιο και αναζητήσιμο τμήμα του Μητρώου, το οποίο θα περιλαμβάνει βασικές πληροφορίες για τον φορέα που χρησιμοποιεί το σύστημα, τον σκοπό και τη νομική βάση της χρήσης του, τις κατηγορίες επηρεαζόμενων προσώπων, το είδος των αποφάσεων που υποστηρίζει και τα μέτρα ανθρώπινης εποπτείας. Παράλληλα, πρέπει να εξαιρούνται προσωπικά δεδομένα, διαβαθμισμένες πληροφορίες, εμπορικά απόρρητα και στοιχεία των οποίων η δημοσιοποίηση δημιουργεί κινδύνους ασφάλειας. Θα ήταν επίσης σκόπιμο να προβλεφθεί επικαιροποίηση μετά από κάθε ουσιώδη μεταβολή και καταχώριση της αναστολής ή παύσης λειτουργίας του συστήματος.
ΠΡΟΤΑΣΕΙΣ ΤΗΣ ΔΗΜΟΚΡΑΤΙΚΗΣ ΑΝΕΞΑΡΤΗΤΗΣ ΚΙΝΗΣΗΣ ΕΡΓΑΖΟΜΕΝΩΝ ΔΑΚΕ-ΕΚΑ
Η θεσμική αρχιτεκτονική του άρθρου 21 εγείρει σοβαρά ζητήματα κανονιστικής ασυμμετρίας. Ενώ ορθώς θεσπίζεται η υποχρέωση καταγραφής και εκτίμησης αντικτύπου για τον δημόσιο τομέα, ο ιδιωτικός τομέας παραμένει ρυθμιστικά αόρατος. Είναι αδιανόητο να δημιουργούνται εργαζόμενοι 2 ταχυτήτων ως προς την προστασία των δεδομένων τους. Απαιτούμε την οριζόντια επέκταση της υποχρέωσης για Εκτίμηση Αντικτύπου σχετικά με την Προστασία Δεδομένων σε κάθε επιχείρηση που εισάγει συστήματα διαχείρισης ανθρώπινου δυναμικού. Ταυτόχρονα, στο ίδιο άρθρο πρέπει να κατοχυρωθεί νομικά η πλήρης διαφάνεια ως προς τα κριτήρια λειτουργίας των συστημάτων αυτών. Ο εργαζόμενος οφείλει να γνωρίζει επακριβώς με ποιες αλγοριθμικές παραμέτρους αξιολογείται, ώστε να αποτρέπονται οριστικά πρακτικές υπερβολικής ή δυσανάλογης παρακολούθησης που προσβάλλουν την επαγγελματική του οντότητα.
ΔΑΚΕ-ΕΚΑ
ΠΡΟΤΑΣΕΙΣ ΤΟΥ ΣΩΜΑΤΕΙΟΥ ΕΡΓΑΖΟΜΕΝΩΝ ΤΡΑΠΕΖΑΣ EUROBANK (Union)
Η διάταξη του παρόντος άρθρου, περιορίζοντας την υποχρέωση εγγραφής στο μητρώο και τη διενέργεια εκτίμησης αντικτύπου αποκλειστικά στους φορείς του δημοσίου τομέα, δημιουργεί ένα ανεπίτρεπτο καθεστώς 2 ταχυτήτων εις βάρος των εργαζομένων στον ιδιωτικό τομέα. Η υποχρέωση διενέργειας αυστηρής Εκτίμησης Αντικτύπου σχετικά με την Προστασία Δεδομένων (DPIA) πριν από την παραγωγική λειτουργία οποιουδήποτε συστήματος τεχνητής νοημοσύνης που ταξινομείται ως υψηλού κινδύνου, πρέπει να αποκτήσει οριζόντια ισχύ. Καμία ιδιωτική επιχείρηση δεν νομιμοποιείται να εφαρμόζει αλγοριθμικά συστήματα αξιολόγησης, παρακολούθησης ή επιλογής προσωπικού χωρίς να έχει προηγηθεί μια ενδελεχής, τεκμηριωμένη και εγκεκριμένη από την Αρχή Προστασίας Δεδομένων Προσωπικού Χαρακτήρα αξιολόγηση του αντικτύπου τους στα θεμελιώδη δικαιώματα. Αποτελεί επιβεβλημένη νομοθετική παρέμβαση η επέκταση της εν λόγω υποχρέωσης στο σύνολο της αγοράς εργασίας, διασφαλίζοντας ότι η ψηφιακή καινοτομία δεν θα καταστεί εργαλείο ανεξέλεγκτης επιτήρησης και προσβολής της προσωπικότητας των εργαζομένων.
ΣΩΜΑΤΕΙΟ ΕΡΓΑΖΟΜΕΝΩΝ ΤΡΑΠΕΖΑΣ EUROBANK (Union)
Η υποχρέωση καταχώρισης της παρ. 3 εφαρμόζεται ενιαία σε κάθε σύστημα, ανεξαρτήτως της ταξινόμησης κινδύνου κατά τον Κανονισμό. Για συστήματα εκτός της κατηγορίας υψηλού κινδύνου, μη-αποφασίζοντα και με διατηρούμενη ανθρώπινη εποπτεία (ενδεικτικά: σημασιολογική αναζήτηση, ανάκτηση εγγράφων, υποβοηθητική προσύνταξη με υποχρεωτική ανθρώπινη έγκριση πριν από κάθε ενέργεια), το πλήρες εύρος των στοιχείων α–ια είναι δυσανάλογο προς τον πραγματικό κίνδυνο.
Προτείνεται κλιμακωτή δήλωση, συνδεδεμένη με την ταξινόμηση της περ. (η): βασικό σύνολο στοιχείων για τα μη-υψηλού-κινδύνου συστήματα και πλήρες σύνολο για τα υψηλού κινδύνου.
Παράλληλα, η δήλωση παραπέμπει ήδη σε εκτίμηση επιπτώσεων στα θεμελιώδη δικαιώματα (Άρθρο 27 του Κανονισμού) και σε εκτίμηση αντικτύπου κατά το Άρθρο 35 ΓΚΠΔ. Για την αποφυγή επικάλυψης, προτείνεται η αρχή «υποβολή άπαξ, παραπομπή διαρκώς», με ενιαίο φάκελο τεκμηρίωσης στον οποίο παραπέμπει η καταχώριση, αντί επανάληψης της ίδιας πληροφορίας σε πολλαπλά σημεία.
Ως προς την παρ. 4: ενώ η δήλωση ανατίθεται στον Υπεύθυνο ή τον προϊστάμενο της αρμόδιας μονάδας ΤΠΕ, μέρος των στοιχείων (ταξινόμηση κατά τον Κανονισμό, τεχνικά χαρακτηριστικά, χρησιμοποιούμενα μοντέλα γενικού σκοπού) προέρχεται κατά κανόνα από τον πάροχο του συστήματος. Προτείνεται να προβλεφθεί ρητά ότι ο φορέας δύναται να βασιστεί στην τεκμηρίωση που παρέχει ο πάροχος, με σαφή οριοθέτηση της ευθύνης εκάστου. Η απουσία τέτοιας πρόβλεψης δημιουργεί αβεβαιότητα που αποθαρρύνει την προμήθεια συστημάτων ΤΝ από μικρούς παρόχους.
Τέλος, για να μη μετατραπεί η καταχώριση σε χειροκίνητο διοικητικό βάρος, προτείνεται η έγκαιρη δημοσίευση τυποποιημένου υποδείγματος δήλωσης και μηχαναγνώσιμου σχήματος (schema), κατά προτίμηση με διεπαφή προγραμματισμού (API) προς το Μητρώο. Η προθεσμία των υφιστάμενων συστημάτων (31.10.2026, Άρθρο 24 παρ. 2) είναι δυσχερώς εφαρμόσιμη εάν το υπόδειγμα και το σχήμα δεν καταστούν διαθέσιμα με επαρκή χρόνο· προτείνεται η έναρξη της προθεσμίας να συνδεθεί με τη διαθεσιμότητά τους.
Α. Από ex-ante δήλωση σε συνεχή παρακολούθηση
Η υποχρέωση δήλωσης πριν τη λειτουργία (ex-ante) είναι απαραίτητη αλλά ανεπαρκής. Τα AI συστήματα εξελίσσονται: ενημερώσεις μοντέλων, αλλαγές στα δεδομένα εκπαίδευσης, επέκταση χρήσης σε νέες περιπτώσεις μπορεί να αλλάξουν ουσιαστικά τον χαρακτήρα ενός συστήματος. Προτείνουμε τη θέσπιση υποχρέωσης ετήσιας επικαιροποίησης της καταχώρισης, καθώς και υποχρέωσης άμεσης ενημέρωσης σε περίπτωση ουσιαστικής τροποποίησης του συστήματος (significant modification κατά Άρθρο 6(3) EU AI Act).
Β. Τυποποίηση πεδίων καταχώρισης
Τα πεδία καταχώρισης στο Μητρώο πρέπει να είναι τυποποιημένα και να ευθυγραμμίζονται με τη βάση δεδομένων EU AI Act (Άρθρο 71 EU AI Act), ώστε να διασφαλίζεται διαλειτουργικότητα. Προτείνουμε τα ελάχιστα πεδία να περιλαμβάνουν: σκοπό και λειτουργία συστήματος, κατηγορία κινδύνου, τεχνολογία βάσης, δεδομένα εισόδου/εξόδου, πληθυσμό που επηρεάζεται, μηχανισμό ανθρώπινης επίβλεψης, και αποτελέσματα αξιολόγησης αντικτύπου.
Γ. Αξιολόγηση αντικτύπου για high-risk συστήματα δημοσίου
Για AI συστήματα δημοσίου τομέα που εμπίπτουν στο Annex III (high-risk), να απαιτείται η υποβολή AI Impact Assessment κατά ISO/IEC 42005, διενεργούμενης από ανεξάρτητο τρίτο μέρος διαπιστευμένο από το ΕΣΥΔ. Το κατώφλι να ορισθεί σε συστήματα που επηρεάζουν άνω των 1.000 πολιτών ετησίως ή λαμβάνουν αποφάσεις με έννομες συνέπειες.
Δ. Δημόσια πρόσβαση στο Μητρώο
Να ορισθεί ρητά ότι το Μητρώο ΤΝ Δημοσίου είναι δημόσια προσβάσιμο, με εξαίρεση πληροφορίες που αφορούν εθνική ασφάλεια ή εμπορικά απόρρητα. Η διαφάνεια είναι προϋπόθεση για τη δημόσια εμπιστοσύνη στα AI συστήματα του δημοσίου τομέα.
Το Μητρώο συστημάτων ΤΝ του Δημοσίου πρέπει να γίνει πραγματικό εργαλείο διαφάνειας, λογοδοσίας και προστασίας του πολίτη
Το άρθρο 21 είναι από τις πιο κρίσιμες διατάξεις του σχεδίου νόμου, διότι αφορά τη χρήση συστημάτων τεχνητής νοημοσύνης από φορείς του δημόσιου τομέα.
Η δημιουργία Μητρώου συστημάτων ΤΝ είναι θετική και αναγκαία. Δεν πρέπει όμως να περιοριστεί σε μια εσωτερική διοικητική καταγραφή. Πρέπει να λειτουργήσει ως εργαλείο διαφάνειας, λογοδοσίας, ελέγχου και εμπιστοσύνης των πολιτών απέναντι στη χρήση τεχνητής νοημοσύνης από το κράτος.
Όταν ένα σύστημα ΤΝ χρησιμοποιείται από δημόσιο φορέα, ο πολίτης πρέπει να μπορεί να γνωρίζει ότι χρησιμοποιείται, για ποιον σκοπό χρησιμοποιείται, ποιον φορέα αφορά, ποια κατηγορία κινδύνου έχει, αν επηρεάζει αποφάσεις και αν υπάρχει ανθρώπινη εποπτεία. Η χρήση ΤΝ από το Δημόσιο δεν μπορεί να είναι αόρατη για τον πολίτη.
Το Μητρώο πρέπει να έχει δημόσια προσβάσιμο τμήμα, με βασικές πληροφορίες για κάθε σύστημα ΤΝ που χρησιμοποιείται από δημόσιο φορέα. Η δημοσιότητα αυτή μπορεί και πρέπει να γίνεται χωρίς να αποκαλύπτονται προσωπικά δεδομένα, εμπορικά απόρρητα, τεχνικές λεπτομέρειες ασφάλειας ή ευαίσθητες πληροφορίες. Ωστόσο, η προστασία αυτών των πληροφοριών δεν πρέπει να οδηγεί σε πλήρη αδιαφάνεια.
Προτείνεται το δημόσια προσβάσιμο μέρος του Μητρώου να περιλαμβάνει τουλάχιστον:
α) τον δημόσιο φορέα που χρησιμοποιεί το σύστημα,
β) τον σκοπό χρήσης του συστήματος,
γ) τον τομέα εφαρμογής,
δ) την κατηγορία κινδύνου,
ε) αν το σύστημα υποστηρίζει ή επηρεάζει διοικητικές αποφάσεις,
στ) αν υπάρχει ανθρώπινη εποπτεία και σε ποιο στάδιο,
ζ) τον υπεύθυνο επικοινωνίας του φορέα,
η) τη δυνατότητα υποβολής καταγγελίας ή αιτήματος επανεξέτασης,
θ) την ημερομηνία έναρξης λειτουργίας και την ημερομηνία τελευταίας επικαιροποίησης.
Ιδιαίτερα σημαντικό είναι να προβλεφθεί ότι η καταχώριση στο Μητρώο δεν θα γίνεται μόνο μία φορά πριν από τη λειτουργία του συστήματος. Τα συστήματα ΤΝ αλλάζουν, επανεκπαιδεύονται, τροποποιούνται, συνδέονται με νέα δεδομένα και χρησιμοποιούνται σε νέες συνθήκες. Επομένως, το Μητρώο πρέπει να επικαιροποιείται υποχρεωτικά όταν αλλάζει ουσιωδώς ο σκοπός, η λειτουργία, τα δεδομένα, ο κίνδυνος ή ο τρόπος χρήσης του συστήματος.
Προτείνεται επίσης να προβλεφθεί περιοδική επανεξέταση των καταχωρίσεων, ιδίως για συστήματα υψηλού κινδύνου ή για συστήματα που χρησιμοποιούνται σε κρίσιμους τομείς, όπως η υγεία, η κοινωνική ασφάλιση, η εργασία, η εκπαίδευση, η δημόσια διοίκηση, η αστυνόμευση ή η πρόσβαση σε δημόσιες υπηρεσίες.
Ειδικά για αποφάσεις που επηρεάζουν δικαιώματα, παροχές, υποχρεώσεις ή πρόσβαση πολιτών σε υπηρεσίες, πρέπει να προβλεφθεί ρητά ότι κανένα σύστημα ΤΝ δεν μπορεί να λειτουργεί ως αποκλειστικός και αδιαφανής μηχανισμός λήψης απόφασης. Ο πολίτης πρέπει να ενημερώνεται όταν χρησιμοποιείται σύστημα ΤΝ, να μπορεί να ζητά βασική αιτιολόγηση και να έχει δικαίωμα ανθρώπινης επανεξέτασης.
Η ανθρώπινη εποπτεία δεν πρέπει να είναι τυπική αναφορά. Πρέπει να είναι ουσιαστική. Ο δημόσιος υπάλληλος ή ο αρμόδιος φορέας πρέπει να μπορεί πραγματικά να ελέγξει, να αμφισβητήσει ή να ανατρέψει το αποτέλεσμα του συστήματος ΤΝ όταν αυτό είναι λανθασμένο, ατεκμηρίωτο ή άδικο.
Ιδιαίτερη σημασία έχει ο τομέας της υγείας. Εάν συστήματα ΤΝ χρησιμοποιούνται σε νοσοκομεία, υπηρεσίες υγείας, πρόληψη, διάγνωση, διαχείριση ασθενών, φαρμακευτική πολιτική, ηλεκτρονική συνταγογράφηση ή αξιολόγηση κινδύνου, το Μητρώο πρέπει να επιτρέπει την ουσιαστική παρακολούθηση της χρήσης τους, με σεβασμό βέβαια στα δεδομένα υγείας και στην ασφάλεια των ασθενών.
Προτείνεται, επομένως, το άρθρο 21 να ενισχυθεί με ρητές προβλέψεις για:
α) δημόσια πρόσβαση σε βασικά στοιχεία κάθε συστήματος ΤΝ του Δημοσίου,
β) σαφή διάκριση μεταξύ δημόσιων και μη δημόσιων πληροφοριών,
γ) υποχρεωτική επικαιροποίηση του Μητρώου όταν αλλάζει ουσιωδώς το σύστημα,
δ) περιοδική επανεξέταση των συστημάτων υψηλού κινδύνου,
ε) καταγραφή της ανθρώπινης εποπτείας,
στ) ενημέρωση του πολίτη όταν ένα σύστημα ΤΝ επηρεάζει απόφαση που τον αφορά,
ζ) δυνατότητα καταγγελίας ή επανεξέτασης από φυσικό πρόσωπο,
η) ειδική μέριμνα για την υγεία και άλλους κρίσιμους τομείς.
Το Μητρώο δεν πρέπει να είναι απλώς αρχείο συμμόρφωσης της διοίκησης. Πρέπει να γίνει το βασικό εργαλείο με το οποίο οι πολίτες θα γνωρίζουν πού, πώς και γιατί χρησιμοποιεί το κράτος την τεχνητή νοημοσύνη.
Η εμπιστοσύνη στην ΤΝ δεν θα χτιστεί με γενικές διαβεβαιώσεις. Θα χτιστεί με διαφάνεια, λογοδοσία, ανθρώπινη εποπτεία και πραγματική δυνατότητα του πολίτη να ζητά εξηγήσεις όταν επηρεάζεται από ένα σύστημα που δεν βλέπει και δεν κατανοεί.
Το Άρθρο 21 ορίζει Μητρώο ΤΝ Δημοσίου Τομέα: κάθε φορέας δηλώνει τα AI συστήματα πριν τη λειτουργία τους, με εκτίμηση επιπτώσεων σε θεμελιώδη δικαιώματα. Η δήλωση είναι εφάπαξ, ex-ante. Δεν υπάρχει απαίτηση για:
Επαναξιολόγηση μετά την ανάπτυξη, Συνεχή παρακολούθηση, Πιστοποίηση τρίτου μέρους, απαίτηση για εναρμονισμένα πρότυπα (όλα είναι κατά δήλωση των Δντων Πληροφορικής)…
Yπάρχει κενό μεταξύ ex-ante δήλωσης και συνεχούς αξιολόγησης.
Οι δημόσιοι φορείς που χρησιμοποιούν συστήματα ΤΝ υποχρεούνται να τηρούν το μητρώο του Άρθρου 21 και να επικαιροποιούν ετησίως την Εκτίμηση Αντικτύπου (AI Impact Assessment) για κάθε καταχωρισμένο σύστημα, βάσει μεθοδολογίας συμβατής με το διεθνές πλαίσιο αξιολόγησης / εναρμονισμένο πρότυπο (π.χ. ISO/IEC 42005 ή ισοδύναμο).
Όταν εκδοθεί εναρμονισμένο ευρωπαϊκό πρότυπο (πχ το prEN 18286 ή άλλο ειδικά σχεδιασμένο για συμμόρφωση με το Άρθρο 17 του AI Act), αυτό θα καθίσταται υποχρεωτική βάση αξιολόγησης για τα συστήματα υψηλού κινδύνου του δημοσίου.
Οι αξιολογήσεις συμμόρφωσης που απαιτούν τρίτο μέρος θα διενεργούνται από φορείς διαπιστευμένους από τον εθνικό φορέα διαπίστευσης (ΕΣΥΔ) κατά τα σχετικά πρότυπα (π.χ. ISO/IEC 17021‑1, ISO/IEC 17065, ISO/IEC 17020, ISO/IEC 42006 για επάρκεια σε AI ή άλλα).
Το Υπουργείο ορίζει κατώφλια (π.χ. αριθμός χρηστών, επεξεργασία ευαίσθητων δεδομένων, λειτουργία σε κρίσιμες υποδομές) για τα οποία η αξιολόγηση τρίτ
ου‑μέρους είναι υποχρεωτική.
Οι τομεακές αρχές που αναλαμβάνουν εποπτεία AI υποχρεούνται να ζητούν τεχνική εισήγηση από το Κέντρο Τεχνογνωσίας (Άρθρο 6) πριν την έκδοση οριστικής απόφασης· αν δεν διαθέτουν επάρκεια, η υπόθεση ανατίθεται σε διαπιστευμένο τρίτο μέρος ή στην ΑΠΔΠΧ με ρητή διαδικασία ανάθεσης.
Το τρέχον πλαίσιο δημιουργεί τρία παράλληλα μητρώα:
Εθνικό Μητρώο ΤΝ (υπάρχον) Άρθρο 8 ν. 4961/2022 για Δημόσιο + ιδιωτικό τομέας
Βάση ΕΕ Υψηλού Κινδύνου ΤΝ (Άρθρο 71 Κανονισμού) για Υψηλού κινδύνου συστήματα (Παράρτημα ΙΙΙ) │ Ευρωπαϊκή Επιτροπή (EU AI Office)
Νέο Εθνικό Μητρώο Δημοσίου Τομέα (Παρόν σχέδιο νόμου για Δημόσιο τομέας ευρύτερα
Αποτέλεσμα: Φορείς ενδέχεται να υποχρεούνται σε τριπλή καταχώρηση για το ίδιο σύστημα. Αυτό δεν απλουστεύει — επιβαρύνει διοικητικά.
Σύσταση: Τροποποίηση άρθρου 8 ν. 4961/2022 ώστε:
– Το εθνικό μητρώο ενοποιείται με το νέο Μητρώο Δημοσίου Τομέα
– Παρέχεται αυτόματη διασύνδεση (API) με την ευρωπαϊκή βάση άρθρου 71 για συστήματα υψηλού κινδύνου
– Αποφεύγεται η διπλή καταχώρηση μέσω αρχής «καταχωρώ μία φορά» (once-only principle)