|
Υπουργείο Ψηφιακής Διακυβέρνησης Δικτυακός Τόπος Διαβουλεύσεων OpenGov.gr Ανοικτή Διακυβέρνηση |
Πολιτική Προστασίας Δεδομένων Προσωπικού Χαρακτήρα Πολιτική Ασφαλείας και Πολιτική Cookies Όροι Χρήσης Πλαίσιο Διαλόγου |
Creative Commons License Με Χρήση του ΕΛ/ΛΑΚ λογισμικού Wordpress. |
Σύγκρουση αρμοδιοτήτων: Η ΑΠΔΠΧ ορίζεται ταυτόχρονα ως Αρχή Εποπτείας Αγοράς (Άρθρο 3) και ως Κοινοποιημένος Οργανισμός (Άρθρο 11) για τους ίδιους τομείς. Αυτό δημιουργεί δομική σύγκρουση: η ίδια αρχή πιστοποιεί ένα σύστημα (ως Notified Body) και στη συνέχεια το εποπτεύει στην αγορά (ως MSA). Η εξαίρεση από ασφάλιση αστικής ευθύνης (παρ. 2) μάλλον έγινε επειδή άρρητα αναγνωρίζεται αυτός ο κακός σχεδιασμός αλλά δεν λύνει το πρόβλημα. Ο Γερμανικός νόμος KI-MIG δεν κάνει κάτι αντίστοιχο — στη Γερμανία, ο Notified Body και η αρχή εποπτείας αγοράς διαχωρίζονται ενώ αξιοποιούν και την εθνική αρχή διαπίστευσης. Εδώ συγχωνεύονται στην ΑΠΔΠΧ για τον πιο ευαίσθητο τομέαο οι ρόλοι του ΝΒ και του market surveillance authority. Για το ρόλο του ΝΒ Θα χρειαστεί διαπίστευση από ευρωπαϊκό φορέα διαπίστευσης πχ ΕΣΥΔ. Δεδομένου του ότι δεν υπάρχουν εναρμονισμένα πρότυπα και οι ιδιαιτερότητες είναι αυξημένου βαθμού δυσκολίας είναι μεγάλες οι πιθανότητες αποτυχίας σε κάποιον ο οποίος δεν έχει ασχοληθεί ξανά με πιστοποίηση / αξιολόγηση βιομηχανικών προϊόντων. Σημειώνω τον όρο independently: πηγή:https://artificialintelligenceact.eu/national-implementation-plans/ "The notifying authority and the market surveillance authority are collectively referred to as the national competent authorities (Art 3(48) AI Act). They must function independently, impartially and without bias, have adequate technical, financial and human resources, as well as the infrastructure to effectively execute their tasks under the AI Act (Art 70(1) and (3) AI Act). " Μπορεί οι αδελφοί Κύπριοι να ακολούθησαν κεντρικοποιημένο μοντέλο Commissioner of Communications λειτουργεί και ως notifying authority και market surveillance authority και ως single point of contact αλλά όχι ΝΒ!!!! Το Άρθρο 3 κάνει μια εξαιρετικά σημαντική νομοτεχνική επιλογή: αντί να απαριθμεί εξαντλητικά τις τομεακές αρχές, παραπέμπει δυναμικά στο Παράρτημα Ι Τμήμα Α΄ του AI Act. Αυτό σημαίνει ότι κάθε αρχή που είναι ήδη αρμόδια για νομοθεσία εναρμόνισης (ραδιοεξοπλισμός, μηχανήματα, ιατροτεχνολογικά, αεροπορία κλπ.) αυτομάτως γίνεται Αρχή Εποπτείας Αγοράς για τα αντίστοιχα AI συστήματα υψηλού κινδύνου. Αυτή η επιλογή είναι νομοτεχνικά κομψή αλλά διοικητικά επίφοβη: Α. Ποιες αρχές «κληρονομούν» αρμοδιότητες AI χωρίς να το γνωρίζουν Το Παράρτημα Ι Τμήμα Α΄ του AI Act απαριθμεί νομοθεσία εναρμόνισης που συνεπάγεται αρμοδιότητα MSA. Στην Ελλάδα αυτό μεταφράζεται σε: ============ Τομέας AI Act Εθνική αρχή Εμπειρία ΤΝ Ραδιοεξοπλισμός (RED) ΕΕΤΤ Ελάχιστη/υποστελεχωμένη Ιατροτεχνολογικά (MDR/IVDR) ΕΟΦ Ελάχιστη Μηχανήματα (Machinery Regulation) ΣΕΠΕ / ΓΓΕΚ Ελάχιστη Αεροπορία (EASA Regulation) ΥΠΑ Ελάχιστη Οχήματα (Type Approval) Υπ. Υποδομών Ελάχιστη Ναυτιλιακός εξοπλισμός (MED) ΥΝΑΝΠ Ελάχιστη Ανελκυστήρες (Lifts Directive) ΓΓΕΚ Μηδενική Δηλαδή μια ΥΠΑ που ελέγχει ήδη αεροναυτιλία, μια ΥΠΑ που δεν έχει AI επιστήμονες, μια ΓΓΕΚ που ελέγχει μηχανολογικούς ανελκυστηρες και ηλεκτρονικά ισχύος, καλούνται τώρα να εποπτεύουν AI συστήματα υψηλού κινδύνου που λειτουργούν σε αεροσκάφη ή βιομηχανικά μηχανήματα. Αυτό εισάγει πραγματικό πρόβλημα συντονισμού. Β. Τι λείπει από το Άρθρο 3: ο μηχανισμός συντονισμού Το Άρθρο 3 δεν ορίζει τίποτα για το πώς αυτές οι αρχές θα αποκτήσουν επάρκεια σε ΤΝ. Το Κεφάλαιο Γ΄ (Άρθρα 8-9) προβλέπει μεν συνεργασία, αλλά με τρόπο που αναδεικνύει τρία δομικά κενά: Κενό 1 — Ο ρόλος του Κέντρου (Άρθρο 6) είναι συμβουλευτικός, όχι δεσμευτικός Το Κέντρο Τεχνογνωσίας «υποστηρίζει» και «παρέχει εκπαίδευση» κατόπιν αιτήματος των άλλων αρχών (Άρθρο 6 παρ. 1α). Αυτό σημαίνει ότι αν η ΥΠΑ ή ο ΕΟΦ δεν ζητήσουν βοήθεια — ή δεν γνωρίζουν ότι πρέπει — το Κέντρο δεν παρεμβαίνει. Δεν υπάρχει υποχρεωτικός μηχανισμός ελέγχου επάρκειας πριν μια αρχή ασκήσει εποπτεία AI. Κενό 2 — Το Άρθρο 8 είναι τυπικό Το Άρθρο 8 προβλέπει συνεργασία «ιδίως μέσω ανταλλαγής πληροφοριών». Δεν προβλέπει κοινές επιθεωρήσεις, κοινά πρωτόκολλα αξιολόγησης, ή δεσμευτικές κατευθυντήριες γραμμές. Στο KI-MIG, αντίστοιχα άρθρα προβλέπουν ρητά Koordinierungsverfahren με χρονοδιαγράμματα και κοινές αποφάσεις. Κενό 3 — Καμία μέριμνα για αλληλοβοήθεια μεταξύ αρχών χωρίς επάρκεια προσωπικού Περίπτωση που ΕΟΦ λάβει καταγγελία για AI διαγνωστικό σύστημα εαν δεν έχει κανέναν υπάλληλο με γνώσεις ML - Ο νόμος δεν προβλέπει μηχανισμό «ανάθεσης» στην ΑΠΔΠΧ ή στο Κέντρο. Στην πράξη αυτό θα οδηγήσει σε παράλυση ή συγκρούσεις αρμοδιοτήτων. Αντίστοιχα ισχύουν πχ για συστήματα αλγοριθμικής τιμολόγησης με βάση την Κλαδική Έρευνα Ηλεκτρονικού Εμπορίου ΕΠΑΝΤ Ενότητα V ή συστήματα ΑΙ στη μελέτη του Enftech.org. Γ. Συνεχής αξιολόγηση δυναμικών συστημάτων - το "φάντασμα του Roman Yampolsky" στο Άρθρο 3 Η πιο ουσιώδης κριτική από τη σκοπιά AI safety για το Άρθρο 3 παρ. 2 παραπέμπει σε αρχές που έχουν εμπειρία ex-ante αξιολόγησης φυσικών χαρακτηριστικών προϊόντων — δηλαδή ελέγχουν αν ένα βιομηχανικό προϊον /ραδιοεξοπλισμός/φάρμακο/μηχάνημα κλπ είναι συμμορφούμενο με ασφάλεια ανθρώπων/ζώων/περιουσίας. Αυτή η λογική δεν μεταφέρεται σε AI συστήματα για τους λόγους που αναδεικνύει ο παγκοσμίου φήμης ειδικός σε ΑΙ Safety Roman Yampolsky (https://www.romanyampolskiy.com/): η συμπεριφορά AI δεν είναι σταθερή χαρακτηριστική — μεταβάλλεται με τα δεδομένα, τον χρήστη, το πλαίσιο. Μια ΥΠΑ που ελέγχει autopilot AI με τη λογική «έχει CE marking άρα είναι ασφαλές» εφαρμόζει λάθος επιστημολογικό πλαίσιο. Δ. Συγκεκριμένες προτάσεις για το Άρθρο 3 στη διαβούλευση Πρόταση 1: Να προστεθεί παρ. 3 που να ορίζει ρητά ότι οι αρχές εποπτείας αγοράς της παρ. 2 υποχρεούνται να απευθύνονται στο Κέντρο (Άρθρο 6) για κάθε υπόθεση AI πριν την έκδοση απόφασης, όχι κατόπιν αιτήματος αλλά υποχρεωτικά. Πρόταση 2: Να προβλεφθεί ρητός μηχανισμός εκχώρησης αρμοδιότητας από τομεακές αρχές χωρίς επάρκεια σε AI στην ΑΠΔΠΧ για συγκεκριμένες κατηγορίες υποθέσεων, με κριτήρια. Πρόταση 3: Να οριστεί ελάχιστο επίπεδο εκπαίδευσης (π.χ. ορισμένες ώρες κατάρτισης σε βασικές αρχές ML/AI risk assessment) ως προϋπόθεση για άσκηση εποπτικών καθηκόντων AI από στελέχη τομεακών αρχών — ενδεχομένως η μονάδα Αρχιμήδης του ερευνητικού κέντρου Αθηνά (καθηγητές Σελλής Παπαδημητρίου Δασκαλάκης) ή το Κέντρο να είναι ο φορέας παροχής. Πρόταση 4: Να προστεθεί υποχρέωση ετήσιας έκθεσης κάθε τομεακής αρχής στην ΑΠΔΠΧ για τις υποθέσεις AI που χειρίστηκε, τον τρόπο και τα αποτελέσματα — ώστε να υπάρχει ορατότητα στο σύστημα και να εντοπίζονται κενά έγκαιρα. Ε. Συμπέρασμα Το Άρθρο 3 επιλέγει κομψή νομοτεχνική λύση (δυναμική παραπομπή αντί εξαντλητικής απαρίθμησης) αλλά δημιουργεί διοικητικό κενό: πολλές αρχές αποκτούν αρμοδιότητα AI χωρίς μηχανισμό απόκτησης επάρκειας, χωρίς υποχρεωτική σύνδεση με το Κέντρο, και χωρίς αλληλοκάλυψη όταν η ικανότητά τους είναι ανεπαρκής. Το Κεφάλαιο Γ΄ (Άρθρα 8-9) που υποτίθεται ότι καλύπτει τη συνεργασία είναι υπερβολικά γενικό για να γεφυρώσει αυτό το κενό. Η έλλειψη τεχνικών πόρων στις αρχές του Παραρτήματος ΙΙΙ αποτελεί επίσης ανησυχία — δηλαδή οι αρχές εποπτείας αγοράς δεν έχουν επαρκή τεχνογνωσία για να εφαρμόσουν πρότυπα που δεν έχουν ακόμα γραφτεί. Σύνταξη Εναρμονισμένων Προτύπων υπό την JTC-21 https://jtc21.eu CEN and CENELEC δημιούργησαν την κοινή τεχνική επιτροπή [JTC 21](τα παραδοτέα πήραν παρατάσεις για τέλος του 2026?) Η ισχύς της ΕΕ στην έρευνα και εφαρμογή ΤΝ υστερεί σημαντικά έναντι Κίνας και ΗΠΑ, και ελάχιστες ευρωπαϊκές εταιρείες βρίσκονται στην αιχμή της ΤΝ. Το συνολικό οικοσύστημα καινοτομίας δεν είναι συγκρίσιμο με τη Silicon Valley ή τα αναδυόμενα κέντρα ΤΝ στην Κίνα. Η συνέπεια είναι δομική: απροθυμία/αδυναμία ευρωπαϊκών εταιρειών να συμμετάσχουν στη συγγραφή ευρωπαϊκών προτύπων και υπέρμετρη εξάρτηση από άλλες δικαιοδοσίες και διεθνείς φορείς τυποποίησης όπως ISO/IEC (το ISO/IEC 42005:2025 – AI Audit & Assessment Framework βρίσκεται ακόμα σε αναμονή). Η έλλειψη τεχνικών πόρων στις αρχές του Παραρτήματος ΙΙΙ αποτελεί επίσης ανησυχία — δηλαδή οι αρχές εποπτείας αγοράς δεν έχουν επαρκή τεχνογνωσία για να εφαρμόσουν πρότυπα που δεν έχουν ακόμα γραφτεί.