Της Ειρήνης Βασιλάκη*
Στις 13 Μαρτίου 2024 το Ευρωκοινοβούλιο ενέκρινε την πρόταση Κανονισμού για την Θέσπιση Κανόνων σχετικά με την Τεχνητή Νοημοσύνη (ΤΝ) στην οποία είχαν συμφωνήσει τα κράτη μέλη τον Δεκέμβριο του 2023 με 523 ψήφους υπέρ, 46 ψήφους κατά και 49 αποχές. Ο Κανονισμός επιδιώκει να διασφαλίσει, ότι οι Ευρωπαίοι θα μπορούν να εμπιστεύονται τα πλεονεκτήματα που μπορεί να προσφέρει η Τεχνητή Νοημοσύνη, να κατωχυρώσει ότι τα συστήματα ΤΝ σέβονται τα θεμελιώδη δικαιώματα, την ασφάλεια και τις δεοντολογικές αρχές και να αντιμετωπίσει τους κινδύνους πολύ ισχυρών και αποτελεσματικών μοντέλων ΤΝ. Γι’ αυτόν τον σκοπό, η ευρωπαϊκή νομοθεσία ορίζει διαφορετικές υποχρεώσεις για τα συστήματα ΤΝ, ανάλογα με τους πιθανούς κινδύνους και τις επιπτώσεις που έχει η χρήση τους, δηλαδή υιοθετεί μία προσέγγιση βάσει κινδύνου.
Ο κανονισμός ορίζει 4 επίπεδα κινδύνου για τα συστήματα ΤΝ: Συστήματα με εφαρμογές που απειλούν τα δικαιώματα των πολιτών, όπως είναι συστήματα βιομετρικής κατηγοριοποίησης που βασίζονται σε ευαίσθητα χαρακτηριστικά με στόχο τη δημιουργία βάσεων δεδομένων για την αναγνώριση προσώπων ή η αναγνώριση συναισθημάτων στον χώρο εργασίας και το σχολείο, η κοινωνική βαθμολόγηση, η προληπτική αστυνόμευση (όταν βασίζεται αποκλειστικά στην κατάρτιση προφίλ ενός ατόμου ή στην αξιολόγηση των χαρακτηριστικών του) και τεχνητή νοημοσύνη που χειραγωγεί την ανθρώπινη συμπεριφορά ή εκμεταλλεύεται τα τρωτά σημεία των ανθρώπων. Η χρήση αυτού του είδους συστημάτων απαγορεύονται ρητά από τον Κανονισμό. Υπάρχει όμως μία εξαίρεση που επιτρέπει την χρήση συστημάτων βιομετρικής ταυτοποίησης από τις αρχές επιβολής του νόμου σε συγκεκριμένες περιπτώσεις π.χ. για την πρόληψη συγκεκριμένης, ουσιώδους και επικείμενης απειλής κατά της ζωής ή της σωματικής ακεραιότητας φυσικών προσώπων ή απειλές τρομοκρατικής επίθεσης.
Συστήματα ΤΝ που θεωρούνται υψηλού κινδύνου, λόγω των σημαντικών επιβλαβών επιπτώσεων που ενδέχεται να έχουν στην υγεία, την ασφάλεια, τα θεμελιώδη δικαιώματα, το περιβάλλον, τη δημοκρατία και το κράτος δικαίου επιτρέπεται να χρησιμοποιούνται μόνον εφόσον πληρούν αυστηρές απαιτήσεις που τίθενται από τον Κανονισμό. Τομείς στους οποίους μπορούν να χρησιμοποιηθούν αυτά τα συστήματα είναι οι κρίσιμες υποδομές, η εκπαίδευση και η επαγγελματική κατάρτιση, η απασχόληση, βασικές ιδιωτικές και δημόσιες υπηρεσίες (π.χ. υγειονομική περίθαλψη, τράπεζες), η επιβολή του νόμου, η διαχείριση της μετανάστευσης και των συνόρων, καθώς και οι δικαστικές και δημοκρατικές διαδικασίες (π.χ. για τον επηρεασμό εκλογικών διαδικασιών). Όλα τα συστήματα υψηλού κινδύνου πριν διατεθούν στην αγορά θα αξιολογούνται αναφορικά με το εάν πληρούν τις απαιτήσεις του Κανονισμού και θα λαμβάνουν πιστοποιητικό συμμόρφωσης από εθνικές εποπτικές αρχές. Η αξιολόγηση συμμόρφωσης θα πραγματοποιείται συνεχώς καθ΄ όλη την διάρκεια του κύκλου ζωής τους. Ο δε πάροχος συντάσσει γραπτή δήλωση συμμόρφωσης ΕΕ για κάθε σύστημα ΤΝ και τη θέτει στη διάθεση των αρμόδιων εθνικών αρχών επί 10 έτη από τη διάθεση του συστήματος ΤΝ στην αγορά ή τη θέση του σε λειτουργία.
Περιορισμένος κίνδυνος από συστήματα ΤΝ προκύπτει από τους κινδύνους που συνδέονται με την έλλειψη διαφάνειας στη χρήση της τεχνητής νοημοσύνης. Ο Κανονισμός εισάγει ειδικές υποχρεώσεις διαφάνειας προκειμένου να διασφαλιστεί ότι οι άνθρωποι ενημερώνονται όταν είναι απαραίτητο, ενισχύοντας την εμπιστοσύνη στην λειτουργία της ΤΝ. Για παράδειγμα, όταν ένα φυσικό πρόσωπο χρησιμοποιεί συστήματα ΤΝ, όπως τα chatbots, θα πρέπει να ενημερώνεται ότι αλληλεπιδρά με μια μηχανή, ώστε να μπορεί να αποφασίσει, εάν θέλει να συνεχίσει ή όχι την επικοινωνία μαζί της. Επιπλέον, ένα κείμενο που παράγεται από την ΤΝ και δημοσιεύεται με σκοπό την ενημέρωση του κοινού σχετικά με θέματα δημόσιου ενδιαφέροντος πρέπει να επισημαίνεται ως τεχνητά παραγόμενο. Το ίδιο ισχύει και για την παραγωγή μουσικής και βίντεο από συστήματα ΤΝ .
Ελεύθερη αντίθετα είναι η χρήση της πλειονότητας των συστημάτων ΤΝ που είναι ελάχιστου κινδύνου (βιντεοπαιχνιδιών ή φίλτρων ανεπιθύμητης αλληλογραφίας).
Ο Κανονισμός θα τεθεί σε ισχύ 20 ημέρες μετά τη δημοσίευσή του στην Επίσημη Εφημερίδα και θα εφαρμοστεί πλήρως 2 έτη αργότερα, με ορισμένες εξαιρέσεις.
Οι επιχειρήσεις που χρησιμοποιούν – συχνά χωρίς να το γνωρίζουν – συστήματα ΤΝ οφείλουν πριν την ολική εφαρμογή του Κανονισμού να προχωρήσουν σε ορισμένες ενέργειες. Συγκεκριμένα:
Να αξιολογήσουν τα συστήματα ΤΝ που χρησιμοποιούν, ώστε να προσδιορίσουν σε ποια κατηγορία κινδύνου ανήκουν βάσει του Κανονισμού. Η διαδικασία αξιολόγησης είναι απαραίτητη ώστε να προγραμματιστεί η συμμόρφωσή τους με την νέα νομοθεσία.
Σε περίπτωση που διαπιστωθεί η χρήση συστημάτων ΤΝ υψηλού κινδύνου οι επιχειρήσεις πρέπει να προχωρήσουν στην διαδικασία συμμόρφωσης με τον Κανονισμό. Σε αυτό περιλαμβάνεται και η απαραίτητη έγγραφη τεκμηρίωση μαζί με τα μέτρα διαχείρισης δεδομένων και διαφάνειας.
Απαραίτητη είναι και η δημιουργία ολοκληρωμένου προγράμματος εκπαίδευσης του προσωπικού, με διαφοροποιημένα επίπεδα πολυπλοκότητας και περιεχομένου ανάλογα μα τα συστήματα ΤΝ που χρησιμοποιεί η επιχείρηση.
Επειδή η νομοθεσία ακολουθεί τις τεχνολογικές εξελίξεις δεν θα πρέπει να αγνοηθεί η συνεχής ενημέρωση, ώστε η επιχείρηση να είναι γνώστης των επιπλέον κατευθυντήριων γραμμών που αναμένονται από τα όργανα της Ε.Ε. και της ελληνικής ρυθμιστικής αρχής για την ΤΝ.
Η παράλειψη των παραπάνω ενεργειών μπορεί να στοιχήσει σε μία επιχείρηση διοικητικά πρόστιμα που ξεκινούν από 10.000.000 € και φτάνουν στα 30.000.000 € ανάλογα με την παραβίαση των όρων του Κανονισμού.
*Η κ. Ειρήνη Βασιλάκη είναι Δ.Ν. Δικηγόρος Υφηγήτρια Πανεπιστημίου Göttingen
