Κανονισμός για την ΤΝ: Υποχρεώσεις Φορέων Εφαρμογής και Κυρώσεις

Σε προηγούμενη αρθρογραφία μας επιχειρήσαμε την προσέγγιση δύο εξαιρετικά σημαντικών θεμάτων: το πρώτο αφορά τον Κανονισμό για την Τεχνητή Νοημοσύνη (ΤΝ) και το δεύτερο τις κατηγορίες κινδύνου συστημάτων ΤΝ. Ο Κανονισμός προβλέπει σειρά υποχρεώσεων ανάλογα με την ιδιότητα όσων εμπλέκονται (λ.χ. Πάροχοι Συστημάτων ΤΝ,  Φορείς Εφαρμογής, Εισαγωγείς και Διανομείς,  εξουσιοδοτημένοι Αντιπροσώποι). Οι υποχρεώσεις των επιμέρους εμπλεκομένων διακρίνονται με βάση την κατηγοριοποίηση των συστημάτων. Καθώς τα Συστήματα Υψηλού Κινδύνου αποτελούν το βασικό αντικείμενο του Κανονισμού, αναγκαίο είναι να προσεγγίσουμε τις σχετικές υποχρεώσεις των Φορέων Εφαρμογής˙ και τις επαπειλούμενες, επίσης, κυρώσεις για την περίπτωση της παραβίασής τους.

Υποχρεώσεις Φορέων Εφαρμογής

(1) Υποχρέωση γραμματισμού (κατάλληλης κατάρτισης και εκπαίδευσης, δηλ.,  των προσώπων που θα αναλάβουν την ανθρώπινη εποπτεία του συστήματος να είναι κατάλληλα εκπαιδευμένα και καταρτισμένα.

(2) Υποχρέωση ανθρώπινης εποπτείας επί του συστήματος ΤΝ υψηλού κινδύνου

(3)  Υποχρέωση λήψης κατάλληλων τεχνικών και οργανωτικών μέτρων, χρήσης του συστήματος ΤΝ υψηλού κινδύνου αποκλειστικά σε συμφωνία με τις οδηγίες χρήσης που παρέχονται από τον Πάροχο και λήψης των κατάλληλων τεχνικών και οργανωτικών μέτρων για την ασφαλή και νόμιμη χρήση του.

(4) Υποχρέωση ελέγχου δεδομένων εισόδου και διασφάλισης ότι είναι συναφή και επαρκώς αντιπροσωπευτικά σε σχέση με τον επιδιωκόμενο σκοπό.

(5 ) Υποχρέωση παρακολούθησης λειτουργίας και ενημέρωσης Παρόχου, αναστολής χρήσης και ενημέρωσης αρχών, αντιμετώπισης προβλημάτων συστημάτων ΤΝ που παρουσιάζουν κίνδυνο.

  (6) Υποχρέωση συνεργασίας με τις αρμόδιες αρχές,   παρέχοντας κάθε αναγκαία πληροφορία και πρόσβαση που ζητείται για την αξιολόγηση της συμμόρφωσης.

(7) Τήρηση αρχείων καταγραφής-logs από μέρους του Φορέα Εφαρμογής εφόσον αυτά παράγονται αυτόματα από το σύστημα.

(8) Υποχρέωση διαφάνειας (όταν χρησιμοποιούνται συστήματα ανάλυσης συναισθημάτων, συστήματα βιομετρικής κατηγοριοποίησης ή συστήματα που παράγουν ή χειρίζονται περιεχόμενο εικόνας, ήχου ή βίντεο που αποτελεί προϊόν βαθυπαραποίησης (deepfake).

(9) Υποχρέωση επεξήγησης των φυσικών προσώπων για τον ρόλο του συστήματος ΤΝ στη διαδικασία λήψης απόφασης που τους αφορά καθώς και για τα βασικά, επίσης, στοιχεία της απόφασης.

(10) Υποχρεώσεις με περιορισμένο πεδίο εφαρμογής (όπως, ενδεικτικά, αυτές που βαρύνουν Φορείς Εφαρμογής που είναιοργανισμοί δημόσιου δικαίου).

Κυρώσεις

Ο Κανονισμός προβλέπει τα όρια των χρηματικών κυρώσεων, τις οποίες θα πρέπει να προσδιορίσουν τα κράτη-μέλη ανάλογα με την παράβαση. Τα συγκεκριμένα όρια προσδιορίζονται, ανάλογα με την σοβαρότητα της παράβασης, είτε σε απόλυτα ποσά (έως 7.500.000€ ή, κατά περίπτωση, έως 35.000.000€) είτε/και, επί επιχειρήσεων, σε ποσοστά του συνολικού παγκόσμιου ετήσιου κύκλου εργασιών τους για το προηγούμενο οικονομικό έτος (έως 1% ή, κατά περίπτωση, έως 7%). Δεν έχει υπάρξει, προσώρας, προσδιορισμός του ύψους και πλαισίου επιβολής των κυρώσεων από τον Έλληνα νομοθέτη.

 Τα Συστήματα Τεχνητής Νοημοσύνης Υψηλού Κινδύνου είναι εκείνα με τα οποία περισσότερο ασχολείται, και δικαίως, ο σχετικός Ευρωπαϊκός Κανονισμός. Η χρήση τους αξιώνει ιδιαίτερη προσοχή-προδήλως γιατί η κοινή λογική και η υποχρέωση προστασίας βασικών αξιών και ανθρώπινων δικαιωμάτων το επιβάλλει˙ επιπρόσθετα, όμως, γιατί οι επαπειλούμενες κυρώσεις μπορούν να αποδειχθούν δραματικές για τις επιχειρήσεις που παραβιάζουν τις συναφείς υποχρεώσεις τους. Ουδεμία, λοιπόν, αμφιβολία χωρεί πως δεν αρκεί η εύρεση των βέλτιστων, σχετικών, συστημάτων αλλά, προεχόντως, η ευλαβική τήρηση των (όχι αμελητέων) υποχρεώσεων που βαρύνουν εκείνους που θα τα χρησιμοποιήσουν.

Σταύρος Κουμεντάκης

Managing Partner

Koumentakis and Associates Law Firm

Σημ.: Σε πλήρη μορφή το άρθρο Κανονισμός για την ΤΝ: Υποχρεώσεις Φορέων Εφαρμογής και Κυρώσεις