Υπουργείο Ψηφιακής Διακυβέρνησης

Δικτυακός Τόπος Διαβουλεύσεων

• Σχόλιο του χρήστη 'Μαραλέτος Παναγιώτης' | 4 Ιουλίου 2026, 10:10

  Μόνιμος Σύνδεσμος

  Το Μητρώο συστημάτων ΤΝ του Δημοσίου πρέπει να γίνει πραγματικό εργαλείο διαφάνειας, λογοδοσίας και προστασίας του πολίτη Το άρθρο 21 είναι από τις πιο κρίσιμες διατάξεις του σχεδίου νόμου, διότι αφορά τη χρήση συστημάτων τεχνητής νοημοσύνης από φορείς του δημόσιου τομέα. Η δημιουργία Μητρώου συστημάτων ΤΝ είναι θετική και αναγκαία. Δεν πρέπει όμως να περιοριστεί σε μια εσωτερική διοικητική καταγραφή. Πρέπει να λειτουργήσει ως εργαλείο διαφάνειας, λογοδοσίας, ελέγχου και εμπιστοσύνης των πολιτών απέναντι στη χρήση τεχνητής νοημοσύνης από το κράτος. Όταν ένα σύστημα ΤΝ χρησιμοποιείται από δημόσιο φορέα, ο πολίτης πρέπει να μπορεί να γνωρίζει ότι χρησιμοποιείται, για ποιον σκοπό χρησιμοποιείται, ποιον φορέα αφορά, ποια κατηγορία κινδύνου έχει, αν επηρεάζει αποφάσεις και αν υπάρχει ανθρώπινη εποπτεία. Η χρήση ΤΝ από το Δημόσιο δεν μπορεί να είναι αόρατη για τον πολίτη. Το Μητρώο πρέπει να έχει δημόσια προσβάσιμο τμήμα, με βασικές πληροφορίες για κάθε σύστημα ΤΝ που χρησιμοποιείται από δημόσιο φορέα. Η δημοσιότητα αυτή μπορεί και πρέπει να γίνεται χωρίς να αποκαλύπτονται προσωπικά δεδομένα, εμπορικά απόρρητα, τεχνικές λεπτομέρειες ασφάλειας ή ευαίσθητες πληροφορίες. Ωστόσο, η προστασία αυτών των πληροφοριών δεν πρέπει να οδηγεί σε πλήρη αδιαφάνεια. Προτείνεται το δημόσια προσβάσιμο μέρος του Μητρώου να περιλαμβάνει τουλάχιστον: α) τον δημόσιο φορέα που χρησιμοποιεί το σύστημα, β) τον σκοπό χρήσης του συστήματος, γ) τον τομέα εφαρμογής, δ) την κατηγορία κινδύνου, ε) αν το σύστημα υποστηρίζει ή επηρεάζει διοικητικές αποφάσεις, στ) αν υπάρχει ανθρώπινη εποπτεία και σε ποιο στάδιο, ζ) τον υπεύθυνο επικοινωνίας του φορέα, η) τη δυνατότητα υποβολής καταγγελίας ή αιτήματος επανεξέτασης, θ) την ημερομηνία έναρξης λειτουργίας και την ημερομηνία τελευταίας επικαιροποίησης. Ιδιαίτερα σημαντικό είναι να προβλεφθεί ότι η καταχώριση στο Μητρώο δεν θα γίνεται μόνο μία φορά πριν από τη λειτουργία του συστήματος. Τα συστήματα ΤΝ αλλάζουν, επανεκπαιδεύονται, τροποποιούνται, συνδέονται με νέα δεδομένα και χρησιμοποιούνται σε νέες συνθήκες. Επομένως, το Μητρώο πρέπει να επικαιροποιείται υποχρεωτικά όταν αλλάζει ουσιωδώς ο σκοπός, η λειτουργία, τα δεδομένα, ο κίνδυνος ή ο τρόπος χρήσης του συστήματος. Προτείνεται επίσης να προβλεφθεί περιοδική επανεξέταση των καταχωρίσεων, ιδίως για συστήματα υψηλού κινδύνου ή για συστήματα που χρησιμοποιούνται σε κρίσιμους τομείς, όπως η υγεία, η κοινωνική ασφάλιση, η εργασία, η εκπαίδευση, η δημόσια διοίκηση, η αστυνόμευση ή η πρόσβαση σε δημόσιες υπηρεσίες. Ειδικά για αποφάσεις που επηρεάζουν δικαιώματα, παροχές, υποχρεώσεις ή πρόσβαση πολιτών σε υπηρεσίες, πρέπει να προβλεφθεί ρητά ότι κανένα σύστημα ΤΝ δεν μπορεί να λειτουργεί ως αποκλειστικός και αδιαφανής μηχανισμός λήψης απόφασης. Ο πολίτης πρέπει να ενημερώνεται όταν χρησιμοποιείται σύστημα ΤΝ, να μπορεί να ζητά βασική αιτιολόγηση και να έχει δικαίωμα ανθρώπινης επανεξέτασης. Η ανθρώπινη εποπτεία δεν πρέπει να είναι τυπική αναφορά. Πρέπει να είναι ουσιαστική. Ο δημόσιος υπάλληλος ή ο αρμόδιος φορέας πρέπει να μπορεί πραγματικά να ελέγξει, να αμφισβητήσει ή να ανατρέψει το αποτέλεσμα του συστήματος ΤΝ όταν αυτό είναι λανθασμένο, ατεκμηρίωτο ή άδικο. Ιδιαίτερη σημασία έχει ο τομέας της υγείας. Εάν συστήματα ΤΝ χρησιμοποιούνται σε νοσοκομεία, υπηρεσίες υγείας, πρόληψη, διάγνωση, διαχείριση ασθενών, φαρμακευτική πολιτική, ηλεκτρονική συνταγογράφηση ή αξιολόγηση κινδύνου, το Μητρώο πρέπει να επιτρέπει την ουσιαστική παρακολούθηση της χρήσης τους, με σεβασμό βέβαια στα δεδομένα υγείας και στην ασφάλεια των ασθενών. Προτείνεται, επομένως, το άρθρο 21 να ενισχυθεί με ρητές προβλέψεις για: α) δημόσια πρόσβαση σε βασικά στοιχεία κάθε συστήματος ΤΝ του Δημοσίου, β) σαφή διάκριση μεταξύ δημόσιων και μη δημόσιων πληροφοριών, γ) υποχρεωτική επικαιροποίηση του Μητρώου όταν αλλάζει ουσιωδώς το σύστημα, δ) περιοδική επανεξέταση των συστημάτων υψηλού κινδύνου, ε) καταγραφή της ανθρώπινης εποπτείας, στ) ενημέρωση του πολίτη όταν ένα σύστημα ΤΝ επηρεάζει απόφαση που τον αφορά, ζ) δυνατότητα καταγγελίας ή επανεξέτασης από φυσικό πρόσωπο, η) ειδική μέριμνα για την υγεία και άλλους κρίσιμους τομείς. Το Μητρώο δεν πρέπει να είναι απλώς αρχείο συμμόρφωσης της διοίκησης. Πρέπει να γίνει το βασικό εργαλείο με το οποίο οι πολίτες θα γνωρίζουν πού, πώς και γιατί χρησιμοποιεί το κράτος την τεχνητή νοημοσύνη. Η εμπιστοσύνη στην ΤΝ δεν θα χτιστεί με γενικές διαβεβαιώσεις. Θα χτιστεί με διαφάνεια, λογοδοσία, ανθρώπινη εποπτεία και πραγματική δυνατότητα του πολίτη να ζητά εξηγήσεις όταν επηρεάζεται από ένα σύστημα που δεν βλέπει και δεν κατανοεί.