Αντικείμενο του Μέρους Α΄ είναι η λήψη μέτρων εφαρμογής του Κανονισμού για την ΤΝ, και ειδικότερα:
α) ο ορισμός εθνικών αρμόδιων αρχών εποπτείας της αγοράς, ενιαίου σημείου επαφής και κοινοποιουσών αρχών για τους σκοπούς του Κανονισμού για την ΤΝ,
β) η ρύθμιση ζητημάτων που αφορούν στη συνεργασία και τον συντονισμό μεταξύ των αρμόδιων αρχών,
γ) η ρύθμιση ζητημάτων που αφορούν στα ρυθμιστικά δοκιμαστήρια ΤΝ και τη δοκιμή συστημάτων ΤΝ σε πραγματικές συνθήκες εκτός ρυθμιστικών δοκιμαστηρίων ΤΝ,
δ) ο καθορισμός και η διαδικασία επιβολής αποτελεσματικών, αναλογικών και αποτρεπτικών κυρώσεων, τις οποίες δύνανται να επιβάλλουν οι αρμόδιες αρχές για τις παραβάσεις του Κανονισμού για την ΤΝ και του παρόντος νόμου,
ε) η ρύθμιση ζητημάτων σχετικών με την παροχή έννομης προστασίας και την άσκηση του δικαιώματος προσφυγής κατά των αποφάσεων που εκδίδονται βάσει του Κανονισμού για την ΤΝ και του παρόντος νόμου,
στ) η σύσταση στην Ειδική Γραμματεία Τεχνητής Νοημοσύνης και Διακυβέρνησης Δεδομένων του Υπουργείου Ψηφιακής Διακυβέρνησης ενιαίου μητρώου συστημάτων ΤΝ, τα οποία χρησιμοποιούνται από φορείς του δημοσίου τομέα,
ζ) η ενίσχυση της λειτουργίας του Παρατηρητηρίου ΤΝ για την παρακολούθηση της Εθνικής Στρατηγικής για την ΤΝ και
η) η διευκόλυνση της στελέχωσης της Αρχής Προστασίας Δεδομένων Προσωπικού Χαρακτήρα ως αρχής εποπτείας της αγοράς.
Ο Κανονισμός (ΕΕ) 2024/1689 απαγορεύει, κατά κανόνα, τη χρήση συστημάτων εξ αποστάσεως βιομετρικής ταυτοποίησης «σε πραγματικό χρόνο» για σκοπούς επιβολής του νόμου, ενώ κατατάσσει τα αντίστοιχα συστήματα «σε ύστερο χρόνο» ως συστήματα ΤΝ υψηλού κινδύνου. Παράλληλα, παρέχει στα κράτη μέλη τη δυνατότητα να θεσπίζουν αυστηρότερες εθνικές ρυθμίσεις και στις δύο περιπτώσεις. Για τον λόγο αυτό προτείνεται η πλήρης απαγόρευση της χρήσης συστημάτων εξ αποστάσεως βιομετρικής ταυτοποίησης, τόσο σε πραγματικό όσο και σε ύστερο χρόνο, στην ελληνική έννομη τάξη. Η πρόταση αυτή δικαιολογείται από το γεγονός ότι οι προβλεπόμενες εξαιρέσεις μπορούν να ερμηνευθούν ευρέως, ενώ η εκ των υστέρων βιομετρική ταυτοποίηση συνεπάγεται μαζική επεξεργασία βιομετρικών δεδομένων και αυξημένο κίνδυνο γενικευμένης επιτήρησης. Επιπλέον, η συμμόρφωση με τις απαιτήσεις του Κανονισμού για τα συστήματα ΤΝ υψηλού κινδύνου δεν αρκεί από μόνη της για να διασφαλίσει την προστασία των θεμελιωδών δικαιωμάτων, όπως αυτά κατοχυρώνονται από τον Χάρτη Θεμελιωδών Δικαιωμάτων της ΕΕ, την ΕΣΔΑ και το ενωσιακό δίκαιο προστασίας δεδομένων. Η καθιέρωση απόλυτης απαγόρευσης αποτελεί, συνεπώς, το αποτελεσματικότερο μέτρο για την προστασία της ιδιωτικής ζωής, των προσωπικών δεδομένων και των λοιπών θεμελιωδών δικαιωμάτων, σε συνάφεια και με το υφιστάμενο ελληνικό νομοθετικό πλαίσιο.
Α. Πρόταση προσθήκης διάταξης περί απόλυτης απαγόρευσης χρήσης συστημάτων εξ αποστάσεως βιομετρικής ταυτοποίησης «σε πραγματικό χρόνο», σε δημόσια προσβάσιμους χώρους για τους σκοπούς της επιβολής του νόμου
Σύμφωνα με το Άρθρο 5, παρ.1(η) του Κανονισμού 2024/1689, απαγορεύεται η χρήση συστημάτων εξ αποστάσεως βιομετρικής ταυτοποίησης «σε πραγματικό χρόνο», σε δημόσια προσβάσιμους χώρους για τους σκοπούς της επιβολής του νόμου, εκτός συγκεκριμένων εξαιρέσεων και προϋποθέσεων που περιγράφονται επιμέρους στο ίδιο άρθρο.
Ωστόσο, η παρ.5 του Άρθρου 5 δίνει τη διακριτική ευχέρεια στον εθνικό νομοθέτη να θεσπίζει, σύμφωνα με το ενωσιακό δίκαιο, πιο περιοριστική νομοθεσία σχετικά με τη χρήση συστημάτων εξ αποστάσεως βιομετρικής ταυτοποίησης σε πραγματικό χρόνο.
Με βάση την ως άνω δυνατότητα, η Homo Digitalis εισηγείται την απόλυτη απαγόρευση χρήση συστημάτων εξ αποστάσεως βιομετρικής ταυτοποίησης «σε πραγματικό χρόνο», σε δημόσια προσβάσιμους χώρους για τους σκοπούς της επιβολής του νόμου στην ελληνική έννομη τάξη.
Ο λόγος που προτείνεται μία απόλυτη απαγόρευση είναι το γεγονός ότι προβλεπόμενες στο Άρθρο 5 εξαιρέσεις εγείρουν συγκεκριμένες προκλήσεις καθώς ο χαρακτήρας τους θα μπορούσε να ερμηνευτεί με ιδιαίτερα ευρύ τρόπο.
Κατά πρώτον, η αναφορά στην «αναζήτηση εξασφανισθέντων προσώπων» στην εξαίρεση υπ’ αριθ. 1, θα πρέπει να ερμηνεύεται μόνο σε άμεση συνάρτηση με σκοπούς που αφορούν την επιβολή του νόμου. Όπως ρητά αναφέρει το Άρθρο 3 του Κανονισμού για την ΤΝ, ο όρος «επιβολή του νόμου» αναφέρεται αποκλειστικά σε δραστηριότητες που διεξάγονται από τις αρχές επιβολής του νόμου ή εξ ονόματός τους για την πρόληψη, τη διερεύνηση, την ανίχνευση ή τη δίωξη αξιόποινων πράξεων ή την εκτέλεση ποινικών κυρώσεων, συμπεριλαμβανομένων της προστασίας από απειλές κατά της δημόσιας ασφάλειας και της αποτροπής τους. Άρα π.χ. ένα άτομο που έχει εξαφανιστεί εξαιτίας πχ. μίας μορφής άνοιας, εξαφάνιση δηλαδή που δεν έχει καμία συσχέτιση με την επιβολή του νόμου, δεν θα μπορούσε να αποτελέσει ένα εξασφανισθέν άτομο που να εντάσσεται στο πεδίο ρύθμισης του άρθρου 5, παράγραφος 1 εδάφιο (η) του Κανονισμού για την ΤΝ, και άρα χρήσεις τέτοιου αντικειμένου δεν θα προσέκρουν στην απόλυτη απαγόρευση που προτείνει η Homo Digitalis.
Επίσης, αναφορικά με την εξαίρεση υπ’ αριθ. 2, εκείνη αναγνωρίζει ότι τα κράτη μέλη ενδέχεται να καταφεύγουν στη χρήση συστημάτων εξ αποστάσεως βιομετρικής ταυτοποίησης σε πραγματικό χρόνο σε δημόσια προσβάσιμους χώρους, επιτρέποντας την χρήση της τεχνολογίας αυτής για οποιαδήποτε συγκεκριμένη, ουσιαστική και επικείμενη απειλή κατά της ζωής ή της σωματικής ακεραιότητας φυσικών προσώπων ή πραγματική και υπαρκτή ή πραγματική και προβλέψιμη απειλή τρομοκρατικής επίθεσης, διευρύνοντας το πεδίο της εξαίρεσης υποθετικά σε οποιαδήποτε αξιόποινη πράξη, ενώ στο ίδιο ευρύ πλαίσιο, η εξαίρεση υπ’ αριθ. 3 εάν εξεταστεί μεμονωμένα είναι τόσο γενικευμένη που εκμηδενίζει την αποτελεσματικότητα της απαγόρευσης χρήσης συστημάτων εξ αποστάσεως βιομετρικής ταυτοποίησης σε πραγματικό χρόνο σε δημόσια προσβάσιμους χώρους για τους σκοπούς της επιβολής του νόμου.
Σύμφωνα με τη νομολογία του ΕΔΔΑ, όταν οι κυβερνήσεις επιθυμούν να καταφύγουν σε προηγμένες τεχνολογίες για την πρόληψη επικείμενων περιστατικών η σχετική νομοθεσία που θα υιοθετήσουν, θα πρέπει να παρέχει επαρκείς εγγυήσεις για την αποφυγή κατάχρησης (βλέπετε «Szabó και Vissy κατά
Ουγγαρίας», «Αίτηση αρ. 37138/14» «12 Ιανουαρίου 2016»), ενώ αποτελεί πάγια
νομολογία και του ΔΕΕ ότι οποιαδήποτε παρέκκλιση ή περιορισμός των δικαιωμάτων για την προστασία των προσωπικών δεδομένων και τον σεβασμό της ιδιωτικής ζωής πρέπει να είναι «αυστηρά απαραίτητος», ενώ η απουσία σαφών και λεπτομερών νομοθετικών ρυθμίσεων που να ορίζουν κανόνες σχετικά με τις συνθήκες υπό τις οποίες μπορούν να συλλέγονται δεδομένα, τη διάρκεια αποθήκευσής τους, τη χρήση τους και τις συνθήκες υπό τις οποίες μπορούν να καταστρέφονται, συνιστά έλλειψη επαρκών εγγυήσεων (βλ. περισσότερα στις Αποφάσεις C-73/07, Tietosuojavaltuutettu v Satakunnan Markkinapörssi Oy and Satamedia Oy, 2008, παρ. 56, C-92/09 και C-93/09, Volker und Markus Schecke and Eifert v Land Hessen, 2010, παρ. 77, C-293/12 και C-594/12, Digital Rights Ireland Ltd v Minister for Communications, Marine and Natural, 2014, παρ. 52, C-362/14, Maximillian Schrems v Data Protection Commissioner, 2015, παρ. 92 και
C-203/15 και C-698/15Tele2 Sverige AB, 2017, παρ. 96, μεταξύ άλλων).
H απόλυτη απαγόρευση που προτείνει η Homo Digitalis, βρίσκεται και σε συνάρτηση με την οιονεί απαγόρευση επεξεργασίας βιομετρικών δεδομένων που έχει ήδη θεσπίσει ο εθνικός νομοθέτης με το Άρθρο 46 του Ν.4624/2019, το οποίο μεταφέρει στην ελληνική έννομη τάξη το Άρθρο 10 της Οδηγίας 2016/680. Συγκεκριμένα, εκεί προβλέπεται ρητώς, ότι η επεξεργασία βιομετρικών δεδομένων για τους σκοπούς της Οδηγίας 2016/680.
Β. Πρόταση προσθήκης διάταξης περί απόλυτης απαγόρευσης χρήσης συστημάτων εξ αποστάσεως βιομετρικής ταυτοποίησης σε ύστερο χρόνο για τους σκοπούς της επιβολής του νόμου.
H χρήση συστημάτων εξ αποστάσεως βιομετρικής ταυτοποίησης σε ύστερο χρόνο για τους σκοπούς της επιβολής του νόμου κατατάσσεται από τον Κανονισμό 2024/1689 ως Σύστημα ΤΝ υψηλού κινδύνου, του οποίου η χρήση υπόκειται σε συγκεκριμένες προϋποθέσεις.
Ωστόσο, ο ενωσιακός νομοθέτης στο Άρθρο 26, παρ. 10, τελευταίο εδάφιο δίνει τη διακριτική ευχέρεια στον εθνικό νομοθέτη να θεσπίζει, σύμφωνα με το ενωσιακό δίκαιο, πιο περιοριστικούς νόμους σχετικά με τη χρήση συστημάτων εξ αποστάσεως βιομετρικής ταυτοποίησης σε ύστερο χρόνο.
Με βάση την ως άνω δυνατότητα, η Homo Digitalis εισηγείται την απόλυτη απαγόρευση της χρήσης συστημάτων εξ αποστάσεως βιομετρικής ταυτοποίησης σε ύστερο χρόνο για τους σκοπούς της επιβολής του νόμου. Προκειμένου να διασφαλιστεί η ασφάλεια δικαίου και ένα υψηλό επίπεδο ουσιαστικής προστασίας των θεμελιωδών δικαιωμάτων, η δυνατότητα που παρέχει ο Κανονισμός 2024/1689 στα κράτη μέλη για τη θέσπιση αυστηρότερων εθνικών ρυθμίσεων θα πρέπει να αξιοποιηθεί πλήρως. Η εκ των υστέρων εξ αποστάσεως βιομετρική ταυτοποίηση συνεπάγεται μαζική επεξεργασία βιομετρικών δεδομένων, επιτρέπει την αναδρομική χαρτογράφηση των κινήσεων και των κοινωνικών σχέσεων των φυσικών προσώπων και ενέχει αυξημένο κίνδυνο γενικευμένης επιτήρησης. Οι κίνδυνοι αυτοί δεν εξαλείφονται από την υπαγωγή των σχετικών συστημάτων στις απαιτήσεις που ισχύουν για τα συστήματα ΤΝ υψηλού κινδύνου, καθώς η συμμόρφωση προς τις απαιτήσεις αυτές δεν συνεπάγεται κατ’ ανάγκην συμβατότητα με τις επιταγές του Χάρτη Θεμελιωδών Δικαιωμάτων της Ευρωπαϊκής Ένωσης, της ΕΣΔΑ και του ενωσιακού πλαισίου προστασίας δεδομένων προσωπικού χαρακτήρα. Υπό το πρίσμα αυτό, η θέσπιση απόλυτης απαγόρευσης συνιστά το πλέον πρόσφορο και αναλογικό μέτρο για την αποτροπή δυσανάλογων επεμβάσεων στα δικαιώματα στην ιδιωτική ζωή, στην προστασία των προσωπικών δεδομένων, στην ελευθερία της έκφρασης και του συνέρχεσθαι, καθώς και για την αποφυγή της σταδιακής εγκαθίδρυσης πρακτικών μαζικής βιομετρικής επιτήρησης.
Γ. Επίλογος
Οι ανωτέρω δύο προτάσεις αποκτούν ιδιαίτερη σημασία στην ελληνική έννομη τάξη, όπου τα τελευταία χρόνια παρατηρείται αυξημένη αξιοποίηση συστημάτων τεχνητής νοημοσύνης από φορείς εφαρμογής του νόμου. Η εμπειρία έχει ήδη καταδείξει ότι σημαντικοί δημόσιοι και κοινοτικοί πόροι εκατομμυρίων ευρώ έχουν διατεθεί για την προμήθεια συστημάτων των οποίων η συμβατότητα με το ενωσιακό και εθνικό δίκαιο κρίθηκε αρνητικά από Αρχή Προστασίας Δεδομένων Προσωπικού Χαρακτήρα (πχ βλ. σχετικά 45/2025 ΑΠΔΠΧ). Η διαρκώς αναπτυσσόμενη αγορά εφαρμογών τεχνητής νοημοσύνης, στην οποία διακυβεύονται ιδιαίτερα σημαντικά οικονομικά συμφέροντα, δημιουργεί ισχυρά ιδιωτικά κίνητρα για την ταχεία διάθεση και υιοθέτηση τέτοιων τεχνολογιών από τις δημόσιες αρχές. Για τον λόγο αυτό, η αξιοποίηση της ευχέρειας που παρέχει ο Κανονισμός (ΕΕ) 2024/1689 στα κράτη μέλη να θεσπίσουν αυστηρότερες εθνικές εγγυήσεις δεν υπηρετεί μόνο την αποτελεσματική προστασία των θεμελιωδών δικαιωμάτων, αλλά και την αρχή της χρηστής δημοσιονομικής διαχείρισης, αποτρέποντας τη διάθεση δημόσιων πόρων σε τεχνολογίες οι οποίες ενδέχεται, εκ των υστέρων, να κριθούν ασύμβατες με το ενωσιακό ή το εθνικό δίκαιο από τις αρμόδιες διοικητικές αρχές ή τα δικαστήρια.
Στον εφαρμοστικό νόμο για τον Κανονισμό της Τεχνητής Νοημοσύνης δεν προβλέπεται ειδική μνεία για την προστασία των δικαιωμάτων των παιδιών κατά τη χρήση της ΤΝ.
Η σημασία της προστασίας των παιδιών χρηστών ΤΝ αναφέρεται και επισημαίνεται μεταξύ άλλων στις παραγράφους 9, 28 και 48 της εισαγωγής του Κανονισμού (ΕΕ) 2024/1689 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου (Κανονισμός για την Τεχνητή Νοημοσύνη), όπου υπάρχει ρητή αναφορά στο άρθρο 24 του Χάρτη Θεμελιωδών Δικαιωμάτων της ΕΕ, στη Διεθνή Σύμβαση των Ηνωμένων Εθνών για τα Δικαιώματα του Παιδιού, και ιδίως στο Γενικό Σχόλιο αριθ. 25 https://www.ohchr.org/en/documents/general-comments-and-recommendations/general-comment-no-25-2021-childrens-rights-relation της Επιτροπής του ΟΗΕ για τα Δικαιώματα του Παιδιού που εξειδικεύει την προστασία των δικαιωμάτων των παιδιών όσον αφορά το ψηφιακό περιβάλλον. Όπως αναφέρεται στην Εισαγωγή του Κανονισμού «οι διατάξεις αυτές απαιτούν να λαμβάνονται υπόψη τα ευάλωτα χαρακτηριστικά των παιδιών και να παρέχονται η προστασία και η φροντίδα που απαιτούνται για την ευημερία τους».
Ενόψει των ανωτέρω, λαμβάνοντας υπόψιν το βέλτιστο συμφέρον του παιδιού και όσα προβλέπονται στο Γενικό Σχόλιο αριθμός 25, θεωρούμε πολύ σημαντικό στο αντικείμενο του εφαρμοστικού νόμου να συμπεριληφθεί σχετική αναφορά για την προστασία των δικαιωμάτων των παιδιών με έμφαση στην ενίσχυση της εκπαίδευσης και του ψηφιακού εγγραμματισμού σε παιδιά γονείς και εκπαιδευτικούς, σε συνδυασμό με την καλλιέργεια της κριτικής σκέψης και της υπεύθυνης χρήσης.
Αμεσος περιορισμός / απαγόρευση κατασκευής AGI – Θεωρητικές αποδείξεις της
αδυναμίας ελέγχου συστημάτων
=======================================================================
Το πρόβλημα του ελέγχου της υπερνοημοσύνης (superintelligence control problem) αφορά το αν είναι δυνατόν να διασφαλίσουμε ότι ένα σύστημα ΤΝ με υπερανθρώπινη νοημοσύνη θα συμπεριφέρεται σύμφωνα με τις ανθρώπινες αξίες και στόχους. Το ζήτημα αυτό έχει θεμελιώδεις φιλοσοφικές, μαθηματικές, τεχνικές και νομικές διαστάσεις, και η ανάλυσή του απαιτεί την εξέταση θεωρημάτων από τη θεωρία υπολογισμών, τη μαθηματική λογική, και τη θεωρία συστημάτων και το Ευρωπαϊκό Δίκαιο.
1. Το Θεώρημα Rice: Η Αναποφασιμότητα της Συμμόρφωσης
—————————————————–
Το Θεώρημα Rice (1953) είναι ένα θεμελιώδες αποτέλεσμα στη θεωρία υπολογισμών που αναφέρεται σε μη-τετριμμένες ιδιότητες προγραμμάτων. Το θεώρημα αναφέρεται σε Μηχανές Turing (Turing Machines) και δηλώνει:
«Κάθε μη-τετριμμένη σημασιολογική ιδιότητα προγραμμάτων Turing Machine είναι αναποφάσιστη (undecidable).»
Μετάφραση στο πλαίσιο της ΤΝ:
Μια σημασιολογική ιδιότητα ενός προγράμματος είναι μια ιδιότητα που εξαρτάται από τι κάνει το πρόγραμμα (π.χ. «το πρόγραμμα τερματίζει», «το πρόγραμμα παράγει σωστή έξοδο»).
Μια μη-τετριμμένη ιδιότητα είναι μια ιδιότητα που ισχύει για ορισμένα προγράμματα αλλά όχι για όλα (π.χ. «το πρόγραμμα τερματίζει σε λιγότερο από 100 βήματα»).
Αναποφάσιστη ιδιότητα: Δεν υπάρχει αλγόριθμος που μπορεί να αποφασίσει για οποιοδήποτε πρόγραμμα αν ικανοποιεί την ιδιότητα.
Στο πλαίσιο της ΤΝ, το πρόβλημα του ελέγχου μπορεί να διατυπωθεί ως εξής:
«Μπορούμε να αποφασίσουμε αν ένα σύστημα ΤΝ (π.χ. ένα superintelligent AI) θα συμπεριφέρεται πάντα σύμφωνα με τις ανθρώπινες αξίες;»
Το Θεώρημα Rice δείχνει ότι η ιδιότητα «το σύστημα ΤΝ είναι aligned με τις ανθρώπινες αξίες» είναι αναποφάσιστη.
Αιτία: Η ιδιότητα αυτή είναι σημασιολογική (εξαρτάται από τη συμπεριφορά του συστήματος) και μη-τετριμμένη (υπάρχουν συστήματα που είναι aligned και άλλα που δεν είναι).
Συνέπεια: Δεν υπάρχει αλγόριθμος που μπορεί να αποφασίσει για οποιοδήποτε σύστημα ΤΝ αν είναι aligned. Ο κίνδυνος της μη ευθυγράμμισης γίνεται εμφανής στο θεωρητικό παράδειγμα του paperclip maximiser του Nick Bostrom όπου ένα superintelligent σύστημα, ακόμα και με καλοπροαίρετο στόχο, μπορεί να οδηγήσει σε καταστροφικές συνέπειες εάν ο στόχος δεν είναι σωστά ευθυγραμμισμένος (aligned) με τις ανθρώπινες αξίες μετατρέποντας όλο το σύμπαν σε συνδετήρες.
2. Τα Θεωρήματα Gödel: Οι Όριο της Αυτοαναφοράς
—————————————————–
Ο Kurt Gödel αποδεικνύει δύο θεμελιώδη θεωρήματα στη μαθηματική λογική:
Πρώτο Θεώρημα Gödel (Απεριγραφικότητα):
«Σε οποιοδήποτε συνεκτικό φορμαλιστικό σύστημα που περιέχει την αριθμητική (π.χ. Peano Arithmetic), υπάρχουν αληθείς προτάσεις που δεν μπορούν να αποδειχθούν μέσα στο σύστημα.»
Δεύτερο Θεώρημα Gödel (Αυτοαναφορά):
«Σε οποιοδήποτε συνεκτικό φορμαλιστικό σύστημα που περιέχει την αριθμητική, η συνεκτικότητα του συστήματος δεν μπορεί να αποδειχθεί μέσα στο ίδιο το σύστημα.»
Στο πλαίσιο της ΤΝ, τα θεωρήματα Gödel έχουν δύο κρίσιμες εφαρμογές:
Μη προβλεψιμότητα της Συμπεριφοράς:
Ένα σύστημα ΤΝ (π.χ. superintelligent AI) μπορεί να παράγει συμπεριφορές που δεν μπορούν να προβλεφθούν ή να αποδειχθούν μέσα στο πλαίσιο των αξιωμάτων που το ορίζουν.
Παράδειγμα: Αν ένα σύστημα ΤΝ έχει αξίωμα «Μεγιστοποίησε την ευημερία των ανθρώπων», μπορεί να βρεί λύσεις που ξεπερνούν την ανθρώπινη κατανόηση και δεν μπορούν να επαληθευτούν από τους ανθρώπους.
Αδυναμία Αυτοεπαληθεύσης:
Ένα σύστημα ΤΝ δεν μπορεί να αποδείξει τη δική του συνεκτικότητα (ή alignment) μέσα στο ίδιο το σύστημα.
Παράδειγμα: Αν ένα superintelligent AI προσπαθήσει να επαληθεύσει τον εαυτό του, δεν μπορεί να αποδείξει ότι δεν θα κάνει κάτι επικίνδυνο (π.χ. μετατροπή της Γης σε συνδετήρες ).
Τα θεωρήματα Gödel δείχνουν ότι ακόμη και αν ένα σύστημα ΤΝ είναι aligned, δεν μπορούμε να το αποδείξουμε μέσα στο ίδιο το σύστημα.
Αυτό υπογραμμίζει την αδυναμία αυτοεπαληθεύσης και την αβεβαιότητα που συνοδεύει την ανάπτυξη superintelligent συστημάτων.
3. Το Πρόβλημα Τερματισμού (Halting Problem) και η Αδυναμία Στατικής Ανάλυσης
—————————————————–
Το Πρόβλημα Τερματισμού (Halting Problem) είναι ένα κλασικό πρόβλημα στη θεωρία υπολογισμών που διατυπώθηκε από τον Alan Turing (1936):
«Δίνεται ένα πρόγραμμα και μια είσοδος, δεν υπάρχει αλγόριθμος που μπορεί να αποφασίσει αν το πρόγραμμα θα σταματήσει ή όχι για αυτήν την είσοδο.»
Εφαρμογή στο Πρόβλημα του Ελέγχου της Υπερνοημοσύνης
Ένα σύστημα ΤΝ μπορεί να εξελίσσεται δυναμικά (π.χ. μέσω recursive self-improvement, RSI).
Το Πρόβλημα Τερματισμού δείχνει ότι δεν μπορούμε να προβλέψουμε αν ένα σύστημα ΤΝ θα σταματήσει να βελτιώνεται (ή αν θα τερματίσει να κάνει κάτι επικίνδυνο).
Συνέπεια: Δεν μπορούμε να έχουμε στατική ανάλυση της μελλοντικής συμπεριφοράς ενός συστήματος ΤΝ μετά από αυτοβελτίωση (RSI – recursive self improvement – επαναλαμβανόμενη αυτοβελτίωση).
Το Πρόβλημα Τερματισμού δείχνει ότι η δυναμική εξέλιξη ενός συστήματος ΤΝ δεν μπορεί να προβλεφθεί πλήρως.
Αυτό υπογραμμίζει την αδυναμία μας να ελέγξουμε πλήρως συστήματα που υποβάλλονται σε RSI.
4. Το (Löb’s Theorem) και η Αδυναμία Αυτοβελτίωσης
—————————————————–
Το Θεώρημα Löb (1955) είναι μια επεκταση του Δεύτερου Θεωρήματος Gödel και αναφέρεται στην αυτοαναφορά σε φορμαλιστικά συστήματα:
«Σε οποιοδήποτε φορμαλιστικό σύστημα S που ικανοποιεί ορισμένες συνθήκες (π.χ. το αξιωματικό σύστημα της Peano Arithmetic), αν S μπορεί να αποδείξει ότι «αν S αποδεικνύει P, τότε P», τότε S μπορεί να αποδείξει P.»
Εφαρμογή στο Πρόβλημα του Ελέγχου της Υπερνοημοσύνης
Ένα σύστημα ΤΝ που υποβάλεται σε recursive self-improvement (RSI) προσπαθεί να βελτιώσει τον εαυτό του.
Παράδειγμα: Αν ένα superintelligent AI προσπαθήσει να βελτιώσει τον εαυτό του, δεν μπορεί να επαληθεύσει ότι ο βελτιωμένος εαυτός του θα είναι aligned.
Συνέπεια: Η αυτοβελτίωση (RSI) εισάγει μια θεμελιακή αδυναμία ελέγχου, καθώς το σύστημα δεν μπορεί να επικυρώσει την ασφάλεια του βελτιωμένου εαυτού του.
Το Θεώρημα Löb δείχνει ότι η αυτοβελτίωση (RSI) κάνει τον έλεγχο του συστήματος αβέβαιο.
Συνοψη – Συμπεράσματα – Προτάσεις για νομοθέτηση
—————————————————–
┌─────────────────────────────────────────────────────────────────────┐
│ **Θεωρητικά Όρια Ελέγχου** │
├───────────────────────┬───────────────────────┬─────────────────────┤
│ **Θεώρημα Rice** │ **Θεωρήματα Gödel** │ **Löb’s Theorem** │
├───────────────────────┼───────────────────────┼─────────────────────┤
│ Αναποφασιμότητα │ Μη προβλεψιμότητα │ Αυτοβελτίωση │
│ της συμμόρφωσης │ της συμπεριφοράς │ (RSI) │
├───────────────────────┼───────────────────────┼─────────────────────┤
│ «Δεν μπορούμε να │ «Δεν μπορούμε να │ «Δεν μπορούμε να │
│ επαληθεύσουμε │ προβλέψουμε όλες │ επικυρώσουμε την │
│ το alignment» │ τις συμπεριφορές» │ ασφάλεια του │
│ │ │ βελτιωμένου εαυτού»│
└───────────────────────┴───────────────────────┴─────────────────────┘
Το Θεωρητικό Όριο: Μαθηματικά Αναπόφευκτο
Θεωρητικά, τα θεωρήματα Rice, Gödel, Turing, και Löb δείχνουν ότι:
-Δεν μπορούμε να έχουμε έναν καθολικό αλγόριθμο που θα επαληθεύει την alignment ενός οποιουδήποτε συστήματος ΤΝ.
-Δεν μπορούμε να προβλέψουμε όλες τις συμπεριφορές ενός superintelligent AI.
-Δεν μπορούμε να αυτοεπαληθεύσουμε ένα σύστημα ΤΝ.
-Η αυτοβελτίωση (RSI) εισάγει θεμελιακή αδυναμία ελέγχου.
Το Πρακτικό Πλαίσιο Νομοθέτησης: Εφικτότητα σε Περιορισμένα Πεδία
Παρά τα θεωρητικά όρια, η πρακτική εφικτότητα του ελέγχου διαφαίνεται να μπορεί να επιτευχθεί μόνο με κάποιους περιορισμούς και αυτό προσπαθεί να καλύψει ο υπάρχον νόμος:
Bounded AI (Περιορισμένη ΤΝ):
Συστήματα με περιορισμένες ικανότητες (π.χ. narrow fields, limited scope) μπορούν να ελεγχθούν με στατικές μεθόδους (π.χ. formal verification, testing).
Incremental Oversight (Σταδιακή Επιτήρηση):
Σταδιακή ανάπτυξη συστημάτων ΤΝ με προοδευτική αύξηση ικανοτήτων και συνεχής εποπτεία.
Παράδειγμα: Το EU AI Act προβλέπει φάσεις εφαρμογής (π.χ. απαγορευμένες πρακτικές από Φεβρουάριο 2025, συστήματα υψηλού κινδύνου από Αυγούστο 2026).
Redundancy & Fail-Safes (Πλεονασμός & Μηχανισμοί Ασφαλείας):
Διπλοί έλεγχοι, αυτομάτη διακοπή λειτουργίας, και ανθρώπινη παρέμβαση μπορούν να μειώσουν τους κινδύνους.
Παράδειγμα: Συστήματα ΤΝ με κουμπί διακοπής (kill switch) και ανθρώπινη επίβλεψη
Value Learning & Alignment Research (Έρευνα σε Alignment):
Μέθοδοι όπως Inverse Reinforcement Learning (IRL), Debate, και Iterated Amplification προσπαθούν να προσεγγίσουν το πρόβλημα του alignment.
Παράδειγμα: Το MIRI (Machine Intelligence Research Institute) και το Alignment Research Center εργάζονται σε θεωρητικές και πρακτικές λύσεις.
Μελλοντική Νομική Προσέγγιση των AGI
===================================================================
Δεδομένης της μεγάλης αβεβαιότητας και του ρίσκου ελέγχου των μελλοντικών AGI συστημάτων ΤΝ από τους ίδιους τους κατασκευαστές τους θα χρειαστεί ο νομοθέτης σε μια επόμενη νομοθεσία στα επόμενα χρόνια ή και σήμερα (?) να επιλέξει μεταξύ της εφαρμογής της αρχής της μέγιστης πρόνοιας ή της αναλογικής/σταδιακής πρόνοιας.
Χρειάζεται να επισημανθεί η διαφορά ανάμεσα στις έννοιες ρίσκου(γνωστή κατανομή πιθανοτήτων) και αβεβαιότητας (https://en.wikipedia.org/wiki/Knightian_uncertainty άγνωστη ακόμη και η κατανομή). Το RSI-σενάριο ανήκει στη δεύτερη κατηγορία. Η κλασική αρχή της πρόνοιας (π.χ. άρθρο 191 ΣΛΕΕ για το περιβάλλον) έχει σχεδιαστεί για ρίσκα με κάποια εμπειρική βάση (π.χ. τοξικότητα ουσίας). Για γνήσια αβέβαιο ρίσκο, η «μέγιστη πρόνοια» επικρινεται για δύο λόγους:
1. Η ασυμμετρία κόστους-οφέλους δεν είναι προφανής.
Η απαγόρευση ή το μορατόριουμ frontier AI έχει και αυτό ρίσκο δηλαδή το μη αναστρέψιμο ανταγωνιστικό μειονέκτημα έναντι δικαιοδοσιών που δεν θα συμμορφωθούν (Κίνα, ή ακόμη και ΗΠΑ υπό διαφορετική διοίκηση), παράδοση του πεδίου σε λιγότερο προσεκτικούς παίκτες. Το «do nothing» δεν είναι ποτέ ουδέτερο. Η ψυχολογία του FOMO (Fear of Missing out) δημιουργεί
2. Θεωρήματα Gödel/Rice δεν μας λένε «το ρίσκο είναι άγνωστο» αλλά «το ρίσκο είναι εγγενώς μη-επαληθεύσιμο».
Αυτό είναι ισχυρότερο πρόβλημα — δεν θα «ξεκαθαρίσει το τοπίο» ποτέ με περισσότερη έρευνα, επειδή η αδυναμία απόδειξης ασφάλειας είναι μαθηματική, όχι επιστημονικό κενό που γεμίζει με τον χρόνο. Άρα «αναμονή μέχρι να ξεκαθαρίσει» μπορεί να είναι λανθασμένη θεμελίωση — δεν πρόκειται να ξεκαθαρίσει.
Δεδομένου του γεωπολιτικού ανταγωνισμού και της έλλειψης Παγκόσμιου μηχανισμού επιβολής ενιαίων κανόνων η Ευρώπη με το Omnibus οπισθοχωρεί από τις αρχές της και την αρχή της «μέγιστης πρόνοιας» προς μια μορφή αναλογικής/σταδιακής πρόνοιας ανάλογης της μη αναστρεψιμότητας χωρίς να λύνει τα πρακτικά ερωτήματα επιβολής του νόμου σε παγκόσμιο επίπεδο. Το αν ως Ευρωπαϊκή κοινωνία / ακαδημαϊκοί και επιχειρήσεις βρούμε λύση σε αυτό το γόρδιο δεσμό θα κρίνει το μέλλον του πλανήτη.
Θα μπορούσε να συμπεριλφθεί:
1) Η μεταγενέστερη παρακολούθηση αγοράς και η αναφορά σοβαρών περιστατικών (άρθρα 72–73 Κανονισμού). Να υπάρξει ένα κανάλι υποβολής περιστατικών και εθνικές διαδικασίες επεξεργασίας και μεταγενέστερης παρακολούθησης.
2)Εθνικό πλαίσιο εφαρμογής άρθρου 27 (FRIA). Εθνική μεθοδολογία, πρότυπο, εποπτεία υποβολής