Συστήνεται στο Υπουργείο Ψηφιακής Διακυβέρνησης Παρατηρητήριο ΤΝ, το οποίο υπάγεται στην Ειδική Γραμματεία Τεχνητής Νοημοσύνης και Διακυβέρνησης Δεδομένων, με κύρια αποστολή:
α) την παρακολούθηση και τη συλλογή δεδομένων σχετικά με την εφαρμογή της Εθνικής Στρατηγικής για την ΤΝ,
β) την αναγνώριση και την υποστήριξη των εμπλεκομένων φορέων στην υλοποίηση της Εθνικής Στρατηγικής για την ΤΝ,
γ) τον καθορισμό προτεραιοτήτων και την ανάδειξη ευκαιριών και τομέων προστιθέμενης αξίας και
δ) τη σύνταξη αναφορών σχετικά με τις δραστηριότητες που αφορούν στην ΤΝ στη χώρα.
Για την εκπλήρωση της αποστολής αυτής, το Παρατηρητήριο ΤΝ μπορεί να αντλεί στοιχεία από το Μητρώο του άρθρου 21. Το Παρατηρητήριο ΤΝ αναρτά τις αναφορές του στον διαδικτυακό τόπο της Ειδικής Γραμματείας Τεχνητής Νοημοσύνης και Διακυβέρνησης Δεδομένων.
Η ΕΕΛΛΑΚ υποστηρίζει τη σύσταση του Παρατηρητηρίου ΤΝ. Επειδή το άρθρο 22 προβλέπει ήδη τη σύνταξη και ανάρτηση αναφορών, προτείνουμε την ενίσχυση αυτής ακριβώς της λειτουργίας, ώστε η δημοσίευση να καταστεί υποχρεωτική, τακτική και σε ανοικτά δεδομένα, μετατρέποντας το Παρατηρητήριο από μηχανισμό ανάδειξης ευκαιριών σε εργαλείο δημόσιας λογοδοσίας.
Ως εκ τούτου προτείνεται η εξής αναδιατύπωση:
«Το Παρατηρητήριο συντάσσει και δημοσιεύει υποχρεωτικά ετήσια δημόσια έκθεση, με συγκεντρωτικά και ανωνυμοποιημένα στοιχεία (πλήθος και κατηγορίες συστημάτων, φορείς, κατηγορία κινδύνου, εκτιμήσεις αντικτύπου, περιστατικά, καταγγελίες και διορθωτικά μέτρα), δημοσιευμένη μεθοδολογία και δείκτες αποτελεσματικότητας, νομιμότητας και ασφάλειας. Τα μη προσωπικά δεδομένα διατίθενται ως ανοικτά δεδομένα.»
Το Παρατηρητήριο ΤΝ πρέπει να λειτουργήσει ως στρατηγικός μηχανισμός παρακολούθησης, τεχνογνωσίας και δημόσιας λογοδοσίας
Το άρθρο 22 είναι ιδιαίτερα σημαντικό, διότι το Παρατηρητήριο Τεχνητής Νοημοσύνης μπορεί να αποτελέσει τον βασικό μηχανισμό παρακολούθησης της πορείας της χώρας στην τεχνητή νοημοσύνη.
Η σύσταση Παρατηρητηρίου ΤΝ είναι θετική. Ωστόσο, για να έχει πραγματική αξία, δεν πρέπει να περιοριστεί στη σύνταξη γενικών αναφορών ή στη διοικητική παρακολούθηση της στρατηγικής. Πρέπει να λειτουργήσει ως ενεργός μηχανισμός συλλογής δεδομένων, αξιολόγησης τάσεων, εντοπισμού κινδύνων, ανάδειξης ευκαιριών και υποστήριξης δημόσιων πολιτικών.
Η τεχνητή νοημοσύνη εξελίσσεται πολύ γρήγορα. Η χώρα χρειάζεται ένα Παρατηρητήριο που να μπορεί να παρακολουθεί όχι μόνο αν εφαρμόζονται οι διατάξεις του νόμου, αλλά και πώς αλλάζει η αγορά, πού αναπτύσσεται καινοτομία, ποιοι τομείς μένουν πίσω, ποια προβλήματα εμφανίζονται στη χρήση συστημάτων ΤΝ και ποιες πολιτικές χρειάζονται προσαρμογή.
Προτείνεται το Παρατηρητήριο να δημοσιεύει τακτικές αναφορές με σαφείς δείκτες, όπως:
α) αριθμός συστημάτων ΤΝ που χρησιμοποιούνται από δημόσιους φορείς,
β) τομείς εφαρμογής,
γ) κατηγορίες κινδύνου,
δ) αριθμός και είδος καταγγελιών,
ε) πορεία λειτουργίας του regulatory sandbox,
στ) συμμετοχή startups, ΜΜΕ, πανεπιστημίων και ερευνητικών φορέων,
ζ) τομείς με υψηλή προστιθέμενη αξία,
η) ελλείψεις σε δεξιότητες και τεχνικό προσωπικό,
θ) προτάσεις βελτίωσης του θεσμικού πλαισίου.
Το Παρατηρητήριο πρέπει επίσης να λειτουργεί ως σημείο σύνδεσης μεταξύ κράτους, αγοράς, πανεπιστημίων, ερευνητικών κέντρων, επιχειρήσεων, επαγγελματικών φορέων και κοινωνίας των πολιτών. Η τεχνητή νοημοσύνη δεν μπορεί να παρακολουθείται μόνο διοικητικά. Χρειάζεται διαρκής επαφή με όσους αναπτύσσουν, χρησιμοποιούν, ελέγχουν ή επηρεάζονται από συστήματα ΤΝ.
Ιδιαίτερη προτεραιότητα πρέπει να δοθεί στον τομέα της υγείας. Η υγεία είναι ένας από τους τομείς στους οποίους η ΤΝ μπορεί να δημιουργήσει τη μεγαλύτερη κοινωνική και οικονομική αξία, αλλά ταυτόχρονα απαιτεί αυξημένη προσοχή λόγω των επιπτώσεων στην ασφάλεια των ασθενών, στα δεδομένα υγείας, στην ιατρική πράξη και στην εμπιστοσύνη των πολιτών.
Προτείνεται το Παρατηρητήριο να παρακολουθεί ειδικά την ανάπτυξη και χρήση εφαρμογών ΤΝ στην υγεία, στην πρόληψη, στη διάγνωση, στη φαρμακευτική συμμόρφωση, στη διαχείριση χρόνιων νοσημάτων, στα νοσοκομεία, στην ηλεκτρονική συνταγογράφηση και στις υπηρεσίες προς τους ασθενείς. Η Ελλάδα μπορεί να αναπτύξει σημαντική τεχνογνωσία στον τομέα αυτό, εφόσον υπάρξει σωστή παρακολούθηση, συνεργασία και στρατηγικός σχεδιασμός.
Το Παρατηρητήριο θα πρέπει επίσης να εντοπίζει κενά δεξιοτήτων και ανάγκες εκπαίδευσης. Η εφαρμογή του AI Act δεν θα κριθεί μόνο από τις αρχές και τις διαδικασίες. Θα κριθεί από το αν υπάρχουν άνθρωποι στο Δημόσιο, στην αγορά και στους οργανισμούς που κατανοούν πραγματικά την τεχνητή νοημοσύνη, τους κινδύνους, τις δυνατότητες και τις υποχρεώσεις που δημιουργεί.
Προτείνεται να προβλεφθεί η δυνατότητα του Παρατηρητηρίου να εισηγείται θεματικές προτεραιότητες πολιτικής, όπως:
α) υγεία και δεδομένα υγείας,
β) δημόσια διοίκηση και εξυπηρέτηση πολιτών,
γ) εκπαίδευση και δεξιότητες,
δ) κυβερνοασφάλεια,
ε) μικρομεσαίες επιχειρήσεις και startups,
στ) εφαρμογές ΤΝ σε κρίσιμες υποδομές,
ζ) υπεύθυνη χρήση γενετικής ΤΝ στον δημόσιο και ιδιωτικό τομέα.
Επίσης, οι αναφορές του Παρατηρητηρίου πρέπει να είναι δημόσιες, κατανοητές και αξιοποιήσιμες. Δεν αρκεί να αναρτώνται τυπικά. Πρέπει να παρουσιάζουν καθαρά συμπεράσματα, προβλήματα, τάσεις και προτάσεις πολιτικής. Θα ήταν χρήσιμο να υπάρχει και δημόσιος πίνακας παρακολούθησης με βασικά συγκεντρωτικά στοιχεία, χωρίς φυσικά να δημοσιοποιούνται ευαίσθητα δεδομένα ή στοιχεία που αφορούν την ασφάλεια συστημάτων.
Προτείνεται, τέλος, να προβλεφθεί συμβουλευτική συμμετοχή ειδικών από την ακαδημαϊκή κοινότητα, την αγορά, την υγεία, την κυβερνοασφάλεια, την προστασία δικαιωμάτων, τις μικρομεσαίες επιχειρήσεις και την κοινωνία των πολιτών. Το Παρατηρητήριο πρέπει να έχει πολυκλαδική γνώση, διότι και η τεχνητή νοημοσύνη έχει πολυκλαδικές επιπτώσεις.
Για τον λόγο αυτό, το άρθρο 22 πρέπει να ενισχυθεί ώστε το Παρατηρητήριο ΤΝ να μην περιοριστεί σε παθητικό ρόλο καταγραφής, αλλά να αποτελέσει ενεργό στρατηγικό μηχανισμό παρακολούθησης, τεχνογνωσίας, αξιολόγησης και δημόσιας λογοδοσίας.
Η Ελλάδα δεν χρειάζεται μόνο να εφαρμόσει τον AI Act. Χρειάζεται να καταλάβει πού πηγαίνει η τεχνητή νοημοσύνη, πού μπορεί να δημιουργήσει αξία, ποιοι κίνδυνοι εμφανίζονται και ποιες πολιτικές πρέπει να προσαρμοστούν εγκαίρως. Αυτός πρέπει να είναι ο πραγματικός ρόλος του Παρατηρητηρίου.
Προτείνεται η ενίσχυση του άρθρου 22, ώστε το Παρατηρητήριο Τεχνητής Νοημοσύνης να διαθέτει σαφή υποχρέωση δημοσίευσης ετήσιας εθνικής έκθεσης για τη χρήση ΤΝ στην Ελλάδα και ειδικότερα στον δημόσιο τομέα.
Η ετήσια έκθεση θα πρέπει να περιλαμβάνει, σε συγκεντρωτική και ανωνυμοποιημένη μορφή, στοιχεία για τον αριθμό των συστημάτων ΤΝ που χρησιμοποιούνται, τους φορείς και τους τομείς εφαρμογής τους, την κατηγορία κινδύνου, τη χρήση μοντέλων γενικού σκοπού, τη διενέργεια εκτιμήσεων επιπτώσεων στα θεμελιώδη δικαιώματα και DPIA, τα περιστατικά ασφάλειας ή μη συμμόρφωσης, τις καταγγελίες, τα διορθωτικά μέτρα, τις ουσιώδεις μεταβολές και τις περιπτώσεις παύσης λειτουργίας συστημάτων.
Επιπλέον, προτείνεται οι αναφορές του Παρατηρητηρίου να συνοδεύονται από δημοσιευμένη μεθοδολογία, βασικούς δείκτες παρακολούθησης και ανοικτά, μη προσωπικά και μη ευαίσθητα δεδομένα, όπου αυτό είναι ασφαλές και εφικτό.
Η λειτουργία του Παρατηρητηρίου δεν πρέπει να περιοριστεί σε καταγραφή δραστηριοτήτων ή ανάδειξη ευκαιριών καινοτομίας. Πρέπει να υποστηρίζει την αξιολόγηση της πραγματικής αποτελεσματικότητας, νομιμότητας, ασφάλειας και κοινωνικής επίδρασης των συστημάτων ΤΝ που χρησιμοποιούνται στην ελληνική δημόσια διοίκηση.