Φορείς του δημοσίου τομέα κατά την έννοια της περ. α) της παρ. 1 του άρθρου 14 του ν. 4270/2014 (Α’ 143), οι οποίοι δεν συμπεριλαμβάνονται στις αρχές εποπτείας της αγοράς της παρ. 2 του άρθρου 3 και, ιδίως:
α) το Υπουργείο Παιδείας, Θρησκευμάτων και Αθλητισμού,
β) το Υπουργείο Υποδομών και Μεταφορών,
γ) το Υπουργείο Ανάπτυξης,
δ) το Υπουργείο Εργασίας και Κοινωνικής Ασφάλισης,
ε) το Υπουργείο Δικαιοσύνης, καθώς και
στ) οι εποπτευόμενοι φορείς τους,
συνεργάζονται με την Α.Π.Δ.Π.Χ. για την εκπλήρωση των σκοπών του Κανονισμού για την ΤΝ και του παρόντος νόμου.
Στο πλαίσιο αυτό παρέχουν, κατόπιν αιτήματος της Α.Π.Δ.Π.Χ., τη συνδρομή τους, συμπεριλαμβανομένων πληροφοριών που κρίνονται αναγκαίες για την εκπλήρωση των σκοπών του Κανονισμού για την ΤΝ και του παρόντος νόμου, ιδίως για τη διαχείριση καταγγελιών και τη διενέργεια ελέγχων. Οι φορείς του πρώτου εδαφίου απαντούν σε έγγραφα αιτήματα της Α.Π.Δ.Π.Χ. για την παροχή πληροφοριών και κάθε είδους συνδρομής, εντός της προθεσμίας που αυτή ορίζει στο αίτημά της, προκειμένου να τηρούνται οι προθεσμίες που ορίζει ο Κανονισμός για την ΤΝ.
Η συνεργασία της ΑΠΔΠΧ με τους δημόσιους φορείς πρέπει να περιλαμβάνει ρητά και τους κρίσιμους τομείς, ιδίως την υγεία
Το άρθρο 9 είναι σημαντικό, διότι αναγνωρίζει ότι η εφαρμογή του AI Act δεν μπορεί να γίνει απομονωμένα από μία μόνο αρχή. Η τεχνητή νοημοσύνη επηρεάζει πολλούς τομείς της δημόσιας διοίκησης και της κοινωνικής ζωής, επομένως η ΑΠΔΠΧ πρέπει να έχει ουσιαστική συνεργασία με τους φορείς που γνωρίζουν το αντικείμενο, τους κινδύνους και τις πραγματικές συνθήκες εφαρμογής κάθε τομέα.
Η πρόβλεψη συνεργασίας με δημόσιους φορείς είναι θετική. Ωστόσο, χρειάζεται μεγαλύτερη σαφήνεια και πληρότητα ως προς τους φορείς που πρέπει να εμπλέκονται. Στο άρθρο γίνεται ενδεικτική αναφορά σε συγκεκριμένα υπουργεία, όμως δεν αναφέρεται ρητά το Υπουργείο Υγείας, παρότι η υγεία αποτελεί έναν από τους σημαντικότερους και πιο ευαίσθητους τομείς εφαρμογής συστημάτων τεχνητής νοημοσύνης.
Η χρήση ΤΝ στην υγεία μπορεί να αφορά πρόληψη, διάγνωση, θεραπευτικές αποφάσεις, διαχείριση ασθενών, ηλεκτρονική συνταγογράφηση, φαρμακευτική πολιτική, αξιολόγηση κινδύνου, παρακολούθηση χρονίως πασχόντων, νοσοκομειακές λειτουργίες και κατανομή πόρων. Σε όλες αυτές τις περιπτώσεις δεν αρκεί μόνο η προστασία προσωπικών δεδομένων. Απαιτείται και ουσιαστική γνώση του συστήματος υγείας, της ιατρικής πράξης, της φαρμακευτικής πολιτικής, της ασφάλειας των ασθενών και της λειτουργίας των δημόσιων και ιδιωτικών δομών υγείας.
Για τον λόγο αυτό προτείνεται να προστεθεί ρητή αναφορά στο Υπουργείο Υγείας και στους εποπτευόμενους φορείς του, καθώς και σε φορείς που διαχειρίζονται κρίσιμες ψηφιακές υποδομές υγείας. Η συμμετοχή τους είναι απαραίτητη τόσο στη διαχείριση καταγγελιών όσο και στη διενέργεια ελέγχων ή στην αξιολόγηση κινδύνων από συστήματα ΤΝ που χρησιμοποιούνται στον χώρο της υγείας.
Επιπλέον, η συνεργασία των δημόσιων φορέων με την ΑΠΔΠΧ δεν πρέπει να περιοριστεί στην απλή αποστολή πληροφοριών κατόπιν αιτήματος. Πρέπει να υπάρχει οργανωμένη διαδικασία τεχνικής και θεματικής συνδρομής, με σαφείς προθεσμίες, υπεύθυνα σημεία επαφής και δυνατότητα συμμετοχής των αρμόδιων φορέων στην ουσιαστική αξιολόγηση της υπόθεσης.
Προτείνεται ειδικότερα:
α) να προστεθεί ρητά το Υπουργείο Υγείας στους φορείς του άρθρου 9,
β) να προβλεφθεί ότι κάθε υπουργείο και εποπτευόμενος φορέας ορίζει συγκεκριμένο σημείο επαφής για ζητήματα ΤΝ,
γ) να προβλεφθεί ότι η συνδρομή των φορέων δεν αφορά μόνο την παροχή εγγράφων, αλλά και την τεχνική, επιστημονική και επιχειρησιακή τεκμηρίωση,
δ) να υπάρχει συγκεκριμένη προθεσμία απάντησης στα αιτήματα της ΑΠΔΠΧ,
ε) να προβλεφθεί διαδικασία επείγουσας συνδρομής όταν ένα σύστημα ΤΝ μπορεί να επηρεάζει δικαιώματα, υγεία, ασφάλεια ή πρόσβαση πολιτών σε κρίσιμες υπηρεσίες,
στ) να καταγράφεται η συνεργασία των φορέων, ώστε να υπάρχει θεσμική συνέχεια και λογοδοσία.
Η τεχνητή νοημοσύνη δεν είναι μόνο ζήτημα προστασίας δεδομένων. Είναι και ζήτημα δημόσιας πολιτικής, ασφάλειας, πρόσβασης σε υπηρεσίες, αξιοπιστίας αποφάσεων και προστασίας πολιτών. Επομένως, η ΑΠΔΠΧ χρειάζεται δίπλα της τους φορείς που γνωρίζουν σε βάθος κάθε τομέα εφαρμογής.
Ιδίως για την υγεία, η ρητή ένταξη του Υπουργείου Υγείας και των αρμόδιων εποπτευόμενων φορέων στο άρθρο 9 θα ενισχύσει την αξιοπιστία του πλαισίου και θα διασφαλίσει ότι οι αποφάσεις, οι έλεγχοι και οι καταγγελίες δεν θα εξετάζονται μόνο με γενικό διοικητικό ή νομικό τρόπο, αλλά με πραγματική κατανόηση των επιπτώσεων στην ασφάλεια και τα δικαιώματα των ασθενών.
Για τον λόγο αυτό, το άρθρο 9 πρέπει να συμπληρωθεί, ώστε η συνεργασία της ΑΠΔΠΧ με τους δημόσιους φορείς να είναι ουσιαστική, υποχρεωτική, τεκμηριωμένη και πλήρης ως προς τους κρίσιμους τομείς εφαρμογής της τεχνητής νοημοσύνης.