Τεχνητή νοημοσύνη, έλεγχος και ηθική- Από τη διαφάνεια στην «Αλγοριθμική Αξιοπρέπεια»

1. Διαφάνεια και Έλεγχος

Η τεχνητή νοημοσύνη καθορίζει ήδη κομμάτια της καθημερινότητάς μας. Από τα συστήματα που φιλτράρουν ειδήσεις και αιτήσεις εργασίας, μέχρι τα λογισμικά που αξιολογούν κινδύνους σε τράπεζες, ασφαλιστικές και δημόσιες υπηρεσίες, μεγάλες αποφάσεις περνούν μέσα από αλγοριθμικές «διορθώσεις» της πραγματικότητας. Μέσα σε αυτό το τοπίο, τρία ερωτήματα είναι κρίσιμα: (α) πώς λειτουργούν αυτές οι τεχνολογίες, (β) ποιος τις ελέγχει και (γ) με ποια ηθικά κριτήρια τις αξιολογούμε.

Τα σύγχρονα συστήματα τεχνητής νοημοσύνης βασίζονται στην επεξεργασία τεράστιων όγκων δεδομένων και στην ανίχνευση μοτίβων. Αυτό τα καθιστά εξαιρετικά χρήσιμα σε επαναλαμβανόμενες, σύνθετες εργασίες. Μπορούν να εντοπίζουν «υπόνοιες» φοροδιαφυγής μέσα σε εκατομμύρια εγγραφές, να αναγνωρίζουν ύποπτες συναλλαγές, να προβλέπουν ποιοι ασθενείς χρειάζονται πιο στενή παρακολούθηση. Το τεχνολογικό τους προτέρημα είναι η ταχύτητα, η κλίμακα, η αντοχή στον όγκο πληροφοριών. Αυτό, όμως, είναι και η αχίλλειος πτέρνα τους: λειτουργούν πάντα πάνω σε δεδομένα και κανόνες που κάποτε αποφάσισαν άνθρωποι, μέσα σε συγκεκριμένα κοινωνικά και ιστορικά πλαίσια.

Η πρώτη διάσταση που απασχολεί πλέον σοβαρά όσους σχεδιάζουν και ρυθμίζουν τέτοια συστήματα είναι η διαφάνεια. Δεν αρκεί να «δουλεύει» ένα σύστημα. Οφείλει να μπορεί να εξηγεί τις αποφάσεις του. Ο πολίτης που αξιολογείται από ένα αυτοματοποιημένο σύστημα οφείλει να ξέρει με κατανοητό τρόπο ποιοι δείκτες συνεκτιμήθηκαν, ποια στοιχεία χρησιμοποιήθηκαν, τι βάρυνε περισσότερο. Αυτό σημαίνει τεχνολογίες που δεν περιορίζονται στο να δίνουν ένα «ναι» ή «όχι», αλλά συνοδεύουν κάθε απόφαση με μια στοιχειώδη αφήγηση: «απορρίφθηκες επειδή…», «κρίθηκες υψηλού κινδύνου λόγω…». Η απαίτηση για εξηγήσιμη λειτουργία δεν είναι τεχνική πολυτέλεια, αλλά ηθική υποχρέωση, επειδή αφορά την ικανότητα του ανθρώπου να καταλάβει και να αμφισβητήσει την κρίση που διαμορφώθηκε γι’ αυτόν.

Η δεύτερη διάσταση είναι ο έλεγχος. Όσο πιο αυτόνομα γίνονται τα συστήματα, τόσο πιο επιτακτική γίνεται η ανάγκη να γνωρίζουμε ποιος έχει τελικά την ευθύνη. Δεν μπορούμε να αποδεχθούμε μια πραγματικότητα όπου μια επιχείρηση, ένας δημόσιος φορέας ή μια πλατφόρμα δικαιολογεί μια άδικη απόφαση με τη φράση «τα έβγαλε αυτά το σύστημα». Ο έλεγχος σημαίνει ότι πίσω από κάθε αυτοματοποιημένη διαδικασία υπάρχει σαφής αλυσίδα λογοδοσίας. Ποιος όρισε τα κριτήρια, ποιος ενέκρινε τη χρήση τους, ποιος υπογράφει τελικά την απόφαση. Σε τεχνολογικό επίπεδο, αυτό απαιτεί ιχνηλασιμότητα, δηλ. δυνατότητα να δούμε εκ των υστέρων ποιες ρυθμίσεις ίσχυαν, ποια δεδομένα ανακτήθηκαν, ποιες ενδιάμεσες αξιολογήσεις έγιναν. Σε ηθικό επίπεδο, απαιτεί την παραδοχή ότι η ευθύνη δεν μεταβιβάζεται στη μηχανή. Παραμένει ανθρώπινη και πολιτική.

Εδώ έρχεται στο προσκήνιο ο κρίσιμος ρόλος της ανθρώπινης επιβεβαίωσης, ειδικά πριν από αποφάσεις που συνεπάγονται καταλογισμούς, κυρώσεις ή ουσιαστικό περιορισμό δικαιωμάτων. Σε τέτοια πεδία, η τεχνητή νοημοσύνη μπορεί –και πρέπει– να λειτουργεί μόνο ως σύμβουλος, ως φίλτρο, ως συναγερμός (red alert). Η τελική απόφαση πρέπει να περνά πάντα από ανθρώπινο έλεγχο. Αυτό δεν σημαίνει ότι ο άνθρωπος κοιτά απλώς την οθόνη και πατά «αποδοχή». Σημαίνει ότι έχει τη δυνατότητα και την υποχρέωση να κρίνει αν η πρόταση του συστήματος έχει νόημα στο συγκεκριμένο πλαίσιο. Αν υπάρχει κάποιο κρίσιμο στοιχείο που δεν αποτυπώθηκε στα δεδομένα. Αν ο άνθρωπος που κρίνεται αντιμετωπίζεται δίκαια, ως μοναδική περίπτωση, και όχι ως ένας μέσος όρος σε μια στατιστική καμπύλη.

Η εμπλοκή του ανθρώπου λειτουργεί ως φίλτρο ενάντια στις συστημικές αδικίες, τα λάθη και τις παρερμηνείες. Τα δεδομένα μπορεί να είναι πεπαλαιωμένα, να περιέχουν λάθος καταχωρίσεις, να αγνοούν κρίσιμες πτυχές της ζωής ενός ανθρώπου που δεν «χωράνε» σε πίνακες και πεδία. Η ανθρώπινη κρίση μπορεί να αναγνωρίσει αυτές τις αποχρώσεις. Να δει, για παράδειγμα, ότι ένα «ύποπτο» μοτίβο συναλλαγών συνδέεται με μια σοβαρή ασθένεια στην οικογένεια και όχι με παράνομη δραστηριότητα. Ή ότι μια «χαμηλή» βαθμολογία στον κίνδυνο ατυχήματος ενός οδηγού παραβλέπει μια ακραία, αλλά πρόσφατη αλλαγή στη συμπεριφορά του. Η τεχνολογία, όσο εξελιγμένη κι αν είναι, δεν έχει βιογραφία. Ο άνθρωπος έχει.

2. Αλγοριθμική αξιοπρέπεια

Ωστόσο, όσο ψηλώνουν οι απαιτήσεις για διαφάνεια και έλεγχο, αναδύεται μια νέα διάσταση, που γίνεται ολοένα και πιο κρίσιμη: η διάσταση της «αλγοριθμικής αξιοπρέπειας». Μέχρι τώρα μιλούσαμε κυρίως για δικαιώματα πρόσβασης, ενημέρωσης, ένστασης. Η αλγοριθμική αξιοπρέπεια πάει ένα βήμα παραπέρα και θέτει το ερώτημα: με ποιον τρόπο επιτρέπουμε στην τεχνολογία να «βλέπει» και να περιγράφει τον άνθρωπο; Πότε ο τρόπος που μας μετατρέπει σε δείκτες, βαθμολογίες και κατηγορίες αρχίζει να προσβάλλει την ίδια την ιδέα ότι είμαστε υποκείμενα με αξία και όχι αντικείμενα αξιολόγησης;

Η έννοια αυτή (βλέπε εικόνα 1) αγγίζει τρεις περιοχές.

Πρώτον, τα όρια της κατηγοριοποίησης. Είναι άλλο να χρησιμοποιείς τεχνολογία για να εντοπίσεις ποιος χρήζει οικονομικής στήριξης και άλλο να κατασκευάζεις σταθερές «ταυτότητες κινδύνου» για ολόκληρες ομάδες ανθρώπων. Όταν ένας αλγόριθμος χαρακτηρίζει κάποιον «υψηλού κινδύνου» επειδή ανήκει σε μια συγκεκριμένη γειτονιά, ηλικιακή ομάδα ή επαγγελματική κατηγορία, ανοίγει ο δρόμος για έναν νέο, αθέατο διαχωρισμό πολιτών πρώτης και δεύτερης κατηγορίας, χωρίς καν εκείνοι να το γνωρίζουν.

Δεύτερον, τον ρυθμό και την ένταση της παρακολούθησης. Οι σύγχρονες τεχνολογίες μπορούν να καταγράφουν συνεχώς κινήσεις, επιλογές, λάθη και επιτυχίες. Η αλγοριθμική αξιοπρέπεια θέτει το ερώτημα: μέχρι ποιο σημείο είναι ηθικά αποδεκτό να επιτρέπουμε στην τεχνητή νοημοσύνη να παρακολουθεί και να αξιολογεί διαρκώς τους ανθρώπους; Μήπως, σε ένα περιβάλλον «πανταχού παρούσας» αξιολόγησης, χάνουμε την ελευθερία να πειραματιστούμε, να αλλάξουμε, να αποτύχουμε χωρίς αυτό να μας ακολουθεί για πάντα σαν ψηφιακό στίγμα;

Image

Εικόνα 1 – “Αλγοριθμική αξιοπρέπεια”

Τρίτον, τον τρόπο με τον οποίο οι τεχνολογίες επηρεάζουν την αυτοεικόνα μας. Αν ζούμε σε μια κοινωνία όπου τα σημεία αναφοράς μας γίνονται σταδιακά οι «βαθμολογίες» που μας αποδίδουν συστήματα -από την πιστοληπτική ικανότητα μέχρι τον υπολογισμό του πόσο «αξιόπιστος» ή «παραγωγικός» είσαι- η ηθική συζήτηση δεν αφορά πλέον μόνο τον έλεγχο της εξουσίας, αλλά και την προστασία της ψυχικής και κοινωνικής μας αυτονομίας. Η αξιοπρέπεια σημαίνει ότι διατηρούμε τον χώρο να ορίζουμε τον εαυτό μας πέρα από το πώς μάς μετρά η μηχανή.

Η τεχνολογία μπορεί να ενσωματώσει αυτή τη νέα διάσταση με συγκεκριμένα χαρακτηριστικά. Σχεδιασμό που περιορίζει την υπερβολική συλλογή δεδομένων. Αλγορίθμους που αποφεύγουν να κατασκευάζουν «σκληρές» ταυτότητες και αφήνουν περιθώριο επανεκτίμησης. Διαδικασίες που εξασφαλίζουν ότι καμία σημαντική απόφαση δεν θα λαμβάνεται χωρίς ο άνθρωπος να έχει λόγο, ενημέρωση και δυνατότητα να ακουστεί. Και, το σημαντικότερο, θεσμούς που να αντιμετωπίζουν τα συστήματα τεχνητής νοημοσύνης όχι ως υποκατάστατα της ανθρώπινης κρίσης, αλλά ως εργαλεία που οφείλουν να υπηρετούν την ανθρώπινη αξιοπρέπεια σε όλες της τις μορφές.

Η συζήτηση για την τεχνητή νοημοσύνη, τον έλεγχο και την ηθική, αν μείνει μόνο σε τεχνικούς όρους, θα χάσει το βαθύτερο διακύβευμα. Δεν κρίνεται απλώς το αν ένας αλγόριθμος είναι «καλός» ή «κακός», ακριβής ή ανακριβής. Κρίνεται το αν η κοινωνία μας είναι διατεθειμένη να παραδώσει σταδιακά σε υπολογιστικά συστήματα τον ορισμό του τι είναι «φυσιολογικό», «αποδεκτό», «επικίνδυνο». 

Καθ. Χρήστος Λεμονάκης

Εργαστήριο Διοικητικής Οικονομικής και Συστημάτων Αποφάσεων

Τμήμα Διοικητικής Επιστήμης και Τεχνολογίας

Σχολή Επιστημών Διοίκησης και Οικονομίας

Ελληνικό Μεσογειακό Πανεπιστήμιο