Κανονισμός για την Τεχνητή Νοημοσύνη (AI)- Κατηγορίες Κινδύνου

Σε προηγούμενη αρθρογραφία μας εγκαινιάσαμε σειρά άρθρων αναφορικά με τον ενωσιακό Κανονισμό για την Τεχνητή Νοημοσύνη. Αναφερθήκαμε στη στόχευση, το πεδίο εφαρμογής και την έναρξη ισχύος του.Προχωρώντας λίγο περισσότερο στη διερεύνησή του, αναγκαίο είναι να κατανοήσουμε τους κινδύνους της ΤΝ μέσα από την κατηγοριοποίηση τους˙ τουλάχιστον όπως ο Κανονισμός τους αντιλαμβάνεται. Περί αυτών το παρόν.

Τα επίπεδα κινδύνου

Ο Κανονισμός υιοθετώντας, εν μέρει, μία κινδυνο-κεντρική προσέγγιση, προσδιορίζει τέσσερα επίπεδα κινδύνου για τα συστήματα ΤΝ με κριτήριο τον κίνδυνο που, το καθένα από αυτά εμπεριέχει: τον απαγορευμένο, τον υψηλό, τον περιορισμένο και τον ελάχιστο ή μηδενικό κίνδυνο. Οι υποχρεώσεις εκείνων που εμπλέκονται σε κάθε στάδιο ανάπτυξης και χρήσης των συστημάτων ΤΝ, άρρηκτα συνδέονται (και αντιστοιχούν) με τα επιμέρους επίπεδα κινδύνου.

Συστήματα ΤΝ απαγορευμένου κινδύνου

Ο Κανονισμός καθιερώνει μια κατηγορία συστημάτων ΤΝ τα οποία απαγορεύεται να διατεθούν στην αγορά, να τεθούν σε λειτουργία και να χρησιμοποιηθούν.

Απαγορεύεται, ειδικότερα, η διάθεση, λειτουργία και χρήση συστήματος ΤΝ:

(α) που εφαρμόζει τεχνικές απευθυνόμενες στο υποσυνείδητο ή σκόπιμα χειριστικές/παραπλανητικές˙ (β) που εκμεταλλεύεται τα αδύνατα σημεία ενός φυσικού προσώπου ή μιας συγκεκριμένης ομάδας προσώπων˙ (γ) για την αξιολόγηση/ταξινόμηση φυσικών προσώπων ή ομάδων προσώπων˙ (δ) για τη διενέργεια εκτιμήσεων κινδύνου φυσικών προσώπων˙ (ε) για τη δημιουργία ή επέκταση βάσεων δεδομένων αναγνώρισης προσώπου μέσω της μη στοχευμένης εξαγωγής εικόνων προσώπου από το διαδίκτυο ή βίντεο CCTV˙ (στ) για τη συναγωγή συναισθημάτων φυσικού προσώπου στους τομείς εργασίας και των εκπαιδευτικών ιδρυμάτων˙ (ζ) συστημάτων βιομετρικής κατηγοριοποίησης και (η) συστημάτων εξ αποστάσεως βιομετρικής ταυτοποίησης «σε πραγματικό χρόνο», σε δημόσια προσβάσιμους χώρους για τους σκοπούς της επιβολής του νόμου.

Συστήματα ΤΝ υψηλού κινδύνου

Συστήματα ΤΝ υψηλού κινδύνου είναι εκείνα που χρησιμοποιούνται:

(α) ως ασφάλεια προϊόντος˙ (β) ως βιομετρικά στοιχεία˙ (γ) σε υποδομές ζωτικής σημασίας˙ (δ) στην εκπαίδευση και στην επαγγελματική κατάρτιση˙ (ε) στην εργασία˙  

(στ) για την πρόσβαση σε βασικές δημόσιες και ιδιωτικές υπηρεσίες˙ (ζ) για την επιβολή του νόμου˙  (η) για τη διαχείριση μετανάστευσης, ασύλου και συνοριακών ελέγχων και (θ) στην απονομή δικαιοσύνης και στις δημοκρατικές διαδικασίες.

Οι υποχρεώσεις που απορρέουν από τον Κανονισμό αφορούν, κατά βάση, τα συστήματα ΤΝ υψηλού κινδύνου..

Συστήματα περιορισμένου και μηδενικού κινδύνου

Αναφορικά με τα συστήματα ΤΝ τα οποία χαρακτηρίζονται ως περιορισμένου κινδύνου (όπως για παράδειγμα τα διαλογικά ρομπότ) ο Κανονισμός θεσπίζει περιορισμένες υποχρεώσεις. Kατά κύριο λόγο υποχρεώσεις διαφάνειας και γνωστοποίησης, όσον αφορά τη χρήση της ΤΝ, ώστε να είναι σε θέση όσοι αλληλεπιδρούν με αυτά να λαμβάνουν τεκμηριωμένες αποφάσεις και, εφόσον κρίνουν απαραίτητο, να διακόψουν την χρήση τους.

Όπως, ήδη, διατυπώθηκε ο Κανονισμός είναι, εν μέρει, κινδυνο-κεντρικός: τα συστήματα Τεχνητής Νοημοσύνης κατηγοριοποιούνται σε συστήματα απαγορευμένου, υψηλού, περιορισμένου και ελάχιστου ή μηδενικού κινδύνου. Για τις δύο τελευταίες κατηγορίες θεσπίζονται ελάχιστες υποχρεώσεις. Η πρώτη κατηγορία (ως απολύτως απαγορευμένη) δεν είναι, ούτως ή άλλως προς συζήτηση. Η πλειονότητα των σοβαρών υποχρεώσεων υφίσταται όσον αφορά τα συστήματα Τεχνητής Νοημοσύνης υψηλού κινδύνου. Κι ακριβώς λόγω της κρισιμότητάς τους αλλά και του βάρους που δημιουργούν στα εμπλεκόμενα μέρη οι υποχρεώσεις των εμπλεκομένων και οι επαπειλούμενες κυρώσεις θα μας απασχολήσουν, αυτοτελώς, σε επόμενη αρθρογραφία μας.-

Σταύρος Κουμεντάκης

Managing Partner

Koumentakis and Associates Law Firm