Υπουργείο Ψηφιακής Διακυβέρνησης

Δικτυακός Τόπος Διαβουλεύσεων

• Σχόλιο του χρήστη 'Μαραλέτος Παναγιώτης' | 4 Ιουλίου 2026, 10:45

  Μόνιμος Σύνδεσμος

  Οι κυρώσεις πρέπει να είναι αναλογικές, αποτρεπτικές και να ισχύουν ουσιαστικά και για τον δημόσιο τομέα Το άρθρο 16 είναι ιδιαίτερα σημαντικό, γιατί χωρίς πραγματικό και εφαρμόσιμο σύστημα κυρώσεων το πλαίσιο εφαρμογής του AI Act κινδυνεύει να μείνει θεωρητικό. Η πρόβλεψη διοικητικών κυρώσεων, προειδοποιήσεων, επιπλήξεων, προστίμων και περιοδικών χρηματικών κυρώσεων είναι αναγκαία. Η τεχνητή νοημοσύνη μπορεί να δημιουργήσει σοβαρές συνέπειες για πολίτες, επιχειρήσεις, ασθενείς, εργαζομένους και χρήστες δημόσιων υπηρεσιών. Επομένως, η παραβίαση των κανόνων δεν μπορεί να αντιμετωπίζεται ως απλή διαδικαστική αστοχία. Ωστόσο, οι κυρώσεις πρέπει να εφαρμόζονται με τρόπο σαφή, αναλογικό, τεκμηριωμένο και προβλέψιμο. Δεν πρέπει να λειτουργήσουν ούτε ως μηχανισμός υπερβολικής τιμωρίας που θα αποθαρρύνει την καινοτομία ούτε ως τυπική απειλή χωρίς πραγματική εφαρμογή. Ιδιαίτερη σημασία έχει η πρόβλεψη ότι τα μέτρα μπορούν να επιβάλλονται και σε φορείς του δημόσιου τομέα. Η χρήση συστημάτων τεχνητής νοημοσύνης από το Δημόσιο μπορεί να επηρεάσει την πρόσβαση των πολιτών σε υπηρεσίες, παροχές, δικαιώματα, διοικητικές αποφάσεις και διαδικασίες. Για τον λόγο αυτό, η λογοδοσία του Δημοσίου δεν μπορεί να είναι ασθενέστερη από τη λογοδοσία των ιδιωτικών φορέων. Προτείνεται να αποσαφηνιστεί ότι, όταν ένα σύστημα ΤΝ χρησιμοποιείται από δημόσιο φορέα και επηρεάζει δικαιώματα ή έννομα συμφέροντα πολιτών, η επιβολή κυρώσεων ή διορθωτικών μέτρων θα πρέπει να συνοδεύεται από υποχρέωση αποκατάστασης της συμμόρφωσης, ενημέρωσης των θιγόμενων πολιτών όπου απαιτείται και επανεξέτασης της σχετικής διαδικασίας. Οι κυρώσεις δεν πρέπει να έχουν μόνο εισπρακτικό ή τιμωρητικό χαρακτήρα. Πρέπει να οδηγούν σε πραγματική διόρθωση του προβλήματος. Σε περιπτώσεις παραβάσεων, θα πρέπει να μπορεί να επιβάλλεται: α) προσωρινή αναστολή χρήσης του συστήματος ΤΝ, β) υποχρέωση διόρθωσης ή επαναξιολόγησης του συστήματος, γ) επανεκπαίδευση προσωπικού, δ) εκ νέου αξιολόγηση κινδύνου, ε) επικαιροποίηση τεχνικής τεκμηρίωσης, στ) ενημέρωση των πολιτών ή χρηστών που επηρεάστηκαν, ζ) ανθρώπινη επανεξέταση αποφάσεων που βασίστηκαν στο σύστημα. Επίσης, η πρόβλεψη ότι μπορεί να λαμβάνεται υπόψη το επίπεδο γραμματισμού στον τομέα της ΤΝ είναι θετική. Θα πρέπει όμως να εφαρμοστεί με προσοχή. Η έλλειψη εκπαίδευσης και κατανόησης της ΤΝ δεν πρέπει να αποτελεί εύκολη δικαιολογία για σοβαρές παραβάσεις, ιδίως όταν πρόκειται για συστήματα υψηλού κινδύνου ή για εφαρμογές που επηρεάζουν πολίτες σε ευαίσθητους τομείς. Αντίθετα, ο γραμματισμός στην ΤΝ πρέπει να αντιμετωπιστεί ως ενεργή υποχρέωση των οργανισμών που αναπτύσσουν, προμηθεύονται ή χρησιμοποιούν τέτοια συστήματα. Δημόσιοι φορείς, επιχειρήσεις και οργανισμοί που χρησιμοποιούν συστήματα ΤΝ οφείλουν να εκπαιδεύουν το προσωπικό τους, να γνωρίζουν τους βασικούς κινδύνους και να έχουν εσωτερικές διαδικασίες ελέγχου. Προτείνεται ειδικότερα: α) να εξειδικευθούν τα κριτήρια επιμέτρησης των κυρώσεων, β) να λαμβάνεται υπόψη η σοβαρότητα της επίπτωσης στους πολίτες, γ) να υπάρχει ειδική βαρύτητα όταν η παράβαση αφορά συστήματα υψηλού κινδύνου, δ) να προβλέπονται ουσιαστικά διορθωτικά μέτρα και όχι μόνο πρόστιμα, ε) να εφαρμόζονται οι κυρώσεις με ουσιαστικό τρόπο και στους δημόσιους φορείς, στ) να προβλέπεται υποχρέωση επανεξέτασης ή αποκατάστασης όταν έχουν επηρεαστεί πολίτες, ζ) να συνδέεται η έννοια του γραμματισμού στην ΤΝ με πραγματική εκπαίδευση και όχι με τυπική συμμόρφωση. Ιδιαίτερη μέριμνα χρειάζεται για κρίσιμους τομείς, όπως η υγεία, η εργασία, η εκπαίδευση, η κοινωνική ασφάλιση, οι χρηματοοικονομικές υπηρεσίες και η δημόσια διοίκηση. Σε αυτούς τους τομείς, ένα σφάλμα ή μια μη συμμορφούμενη χρήση συστήματος ΤΝ μπορεί να έχει άμεσες συνέπειες στην καθημερινότητα, την ασφάλεια, την αξιοπρέπεια ή τα δικαιώματα των πολιτών. Το άρθρο 16 πρέπει να διασφαλίζει ότι οι κυρώσεις δεν θα είναι απλώς ένα τελευταίο στάδιο τιμωρίας, αλλά μέρος ενός ολοκληρωμένου μηχανισμού λογοδοσίας. Ο στόχος πρέπει να είναι η πρόληψη, η συμμόρφωση, η αποκατάσταση και η προστασία των πολιτών. Για τον λόγο αυτό, προτείνεται η ενίσχυση του άρθρου 16 με σαφέστερες προβλέψεις για τα κριτήρια επιβολής κυρώσεων, τα διορθωτικά μέτρα, την ευθύνη των δημόσιων φορέων, την ενημέρωση των θιγόμενων προσώπων και την υποχρέωση πραγματικής αποκατάστασης όταν η χρήση συστήματος ΤΝ έχει οδηγήσει σε παράβαση ή βλάβη. Ένα αποτελεσματικό πλαίσιο για την τεχνητή νοημοσύνη δεν κρίνεται μόνο από τις αρχές που ορίζει, αλλά και από το αν υπάρχουν πραγματικές συνέπειες όταν οι κανόνες παραβιάζονται. Οι κυρώσεις πρέπει να είναι δίκαιες, αναλογικές και αποτρεπτικές, αλλά κυρίως πρέπει να οδηγούν σε διόρθωση και λογοδοσία.