Όταν ένας οργανισμός αξιολόγησης της συμμόρφωσης υποβάλλει αίτηση κοινοποίησης, σύμφωνα με την παρ. 1 του άρθρου 29 του Κανονισμού για την ΤΝ, σε αρμόδια κοινοποιούσα αρχή της νομοθεσίας εναρμόνισης του Τμήματος Α΄ του Παραρτήματος Ι του Κανονισμού για την ΤΝ, η εν λόγω κοινοποιούσα αρχή τηρεί την ακόλουθη διαδικασία αναφορικά με την αξιολόγηση της συνδρομής των προϋποθέσεων του άρθρου 31 του Κανονισμού για την ΤΝ:
α) Η κοινοποιούσα αρχή της νομοθεσίας εναρμόνισης διεξάγει την αξιολόγηση του οργανισμού αξιολόγησης της συμμόρφωσης βάσει της εκάστοτε νομοθεσίας εναρμόνισης για την οποία έχει αρμοδιότητα.
β) Όταν, κατά την ως άνω αξιολόγηση, η κοινοποιούσα αρχή της νομοθεσίας εναρμόνισης εντοπίζει αίτημα του υπό εξέταση οργανισμού αξιολόγησης της συμμόρφωσης προς αναγνώρισή του ως κοινοποιημένου οργανισμού βάσει και του Κανονισμού για την ΤΝ, διαβιβάζει την αίτηση κοινοποίησης και τον φάκελο του υποψηφίου στην Ε.Ε.Τ.Τ., προς αξιολόγηση της συμμόρφωσης του υποψηφίου με τις απαιτήσεις του άρθρου 31 του Κανονισμού για την ΤΝ. Κατά την αξιολόγηση αυτή, η Ε.Ε.Τ.Τ. θεωρεί ως τεκμήρια συμμόρφωσης, κατά την έννοια της παρ. 2 του άρθρου 11 του Κανονισμού (ΕΕ) 765/2008, και αποδέχεται τυχόν πιστοποιητικά διαπίστευσης του Εθνικού Συστήματος Διαπίστευσης ως προς τη συμμόρφωση του υποψήφιου οργανισμού με τις απαιτήσεις του άρθρου 31 του Κανονισμού για την ΤΝ, τα οποία έχουν εκδοθεί βάσει των σχετικών εναρμονισμένων προτύπων διαπίστευσης του άρθρου 32 του Κανονισμού για την ΤΝ και έχουν συμπεριληφθεί στον φάκελο του υποψήφιου οργανισμού.
γ) Εφόσον η κοινοποιούσα αρχή της νομοθεσίας εναρμόνισης εξασφαλίσει την ύπαρξη θετικής αξιολόγησης της Ε.Ε.Τ.Τ., σύμφωνα με την περ. β), εγκρίνει την αίτηση κοινοποίησης του υποψηφίου βάσει του Κανονισμού για την ΤΝ.
Η αξιολόγηση των κοινοποιημένων οργανισμών πρέπει να στηρίζεται σε πραγματική τεχνική επάρκεια και όχι μόνο σε τυπική διαπίστευση
Το άρθρο 10 κινείται σε σωστή κατεύθυνση, καθώς επιχειρεί να αξιοποιήσει υφιστάμενους οργανισμούς αξιολόγησης συμμόρφωσης και να τους εντάξει στη διαδικασία εφαρμογής του Κανονισμού για την Τεχνητή Νοημοσύνη.
Η προσέγγιση αυτή μπορεί να συμβάλει στην ταχύτερη και πιο πρακτική εφαρμογή του πλαισίου, υπό την προϋπόθεση όμως ότι η αξιολόγηση των οργανισμών δεν θα περιοριστεί σε μια τυπική διοικητική ή πιστοποιητική διαδικασία.
Η τεχνητή νοημοσύνη, ιδίως όταν αφορά συστήματα υψηλού κινδύνου, απαιτεί εξειδικευμένη τεχνική γνώση. Δεν αρκεί ένας οργανισμός να έχει γενική εμπειρία σε αξιολογήσεις συμμόρφωσης ή σε υφιστάμενη νομοθεσία εναρμόνισης. Πρέπει να αποδεικνύει ότι διαθέτει πραγματική επάρκεια σε τεχνητή νοημοσύνη, μηχανική μάθηση, λογισμικό, διαχείριση δεδομένων, κυβερνοασφάλεια, αξιολόγηση κινδύνου, τεκμηρίωση αλγοριθμικών συστημάτων και ανθρώπινη εποπτεία.
Για τον λόγο αυτό, η αξιολόγηση από την ΕΕΤΤ δεν θα πρέπει να περιορίζεται στην αποδοχή πιστοποιητικών διαπίστευσης ως τυπικών τεκμηρίων συμμόρφωσης. Τα πιστοποιητικά είναι χρήσιμα, αλλά δεν αρκούν από μόνα τους. Πρέπει να εξετάζεται ουσιαστικά αν ο υποψήφιος οργανισμός διαθέτει προσωπικό, διαδικασίες, εμπειρία και τεχνικά εργαλεία που του επιτρέπουν να αξιολογεί με αξιοπιστία συστήματα ΤΝ.
Προτείνεται να προβλεφθεί ρητά ότι η αξιολόγηση των οργανισμών θα περιλαμβάνει:
α) έλεγχο της τεχνικής επάρκειας του προσωπικού,
β) εμπειρία σε αξιολόγηση λογισμικού, δεδομένων, αλγορίθμων και συστημάτων ΤΝ,
γ) τεκμηριωμένη γνώση των απαιτήσεων του Κανονισμού για την ΤΝ,
δ) διαδικασίες αποφυγής σύγκρουσης συμφερόντων,
ε) ανεξαρτησία από παρόχους, εισαγωγείς, διανομείς ή χρήστες συστημάτων ΤΝ,
στ) δυνατότητα αξιολόγησης κυβερνοασφάλειας και διαχείρισης κινδύνου,
ζ) επάρκεια για αξιολόγηση συστημάτων που εφαρμόζονται σε κρίσιμους τομείς, όπως η υγεία, η εργασία, η εκπαίδευση, οι χρηματοοικονομικές υπηρεσίες και η δημόσια διοίκηση.
Ιδιαίτερη προσοχή πρέπει να δοθεί στη σύγκρουση συμφερόντων. Ένας οργανισμός αξιολόγησης συμμόρφωσης δεν μπορεί να παρέχει ταυτόχρονα συμβουλευτικές υπηρεσίες στον φορέα που αξιολογεί ή να έχει οικονομική εξάρτηση από αυτόν με τρόπο που επηρεάζει την αντικειμενικότητά του. Η ανεξαρτησία των οργανισμών είναι προϋπόθεση αξιοπιστίας του συστήματος.
Επίσης, προτείνεται να υπάρχει διαφάνεια ως προς τους οργανισμούς που εγκρίνονται για την αξιολόγηση συστημάτων ΤΝ. Θα πρέπει να δημοσιεύεται κατάλογος των οργανισμών, το πεδίο για το οποίο έχουν αξιολογηθεί, οι κατηγορίες συστημάτων που μπορούν να εξετάζουν και οι βασικές προϋποθέσεις της έγκρισής τους. Έτσι οι επιχειρήσεις, οι δημόσιοι φορείς και οι πολίτες θα γνωρίζουν ποιοι οργανισμοί έχουν πραγματική αρμοδιότητα και σε ποιο αντικείμενο.
Η αξιολόγηση συμμόρφωσης δεν πρέπει να μετατραπεί σε μια τυπική διαδικασία έκδοσης πιστοποιητικών. Αν γίνει έτσι, θα δημιουργηθεί μια αγορά τυπικής συμμόρφωσης χωρίς πραγματική προστασία των πολιτών και χωρίς πραγματική ασφάλεια για τις επιχειρήσεις που αναπτύσσουν ή χρησιμοποιούν συστήματα ΤΝ.
Το ζητούμενο είναι να δημιουργηθεί ένα σοβαρό οικοσύστημα αξιολόγησης, με οργανισμούς που μπορούν να ελέγξουν ουσιαστικά αν ένα σύστημα ΤΝ είναι ασφαλές, τεχνικά αξιόπιστο, επαρκώς τεκμηριωμένο, διαφανές και συμβατό με τις απαιτήσεις του Κανονισμού.
Για τον λόγο αυτό, προτείνεται η ενίσχυση του άρθρου 10 με ρητές προβλέψεις για ουσιαστική τεχνική αξιολόγηση των υποψήφιων οργανισμών, αυστηρούς κανόνες ανεξαρτησίας, αποφυγή σύγκρουσης συμφερόντων, δημόσια διαφάνεια ως προς το πεδίο αρμοδιότητας κάθε οργανισμού και τακτική επανεξέταση της επάρκειάς τους.
Μόνο έτσι η διαδικασία του άρθρου 10 θα λειτουργήσει ως πραγματικός μηχανισμός αξιοπιστίας και όχι ως απλή διοικητική προσαρμογή υφιστάμενων φορέων στις απαιτήσεις του AI Act.