Παρακολουθεί η OpenAI τις συζητήσεις μας με το ChatGPT; Μια σύλληψη στο Στρασβούργο δίνει απάντηση

Ακόμη μία είδηση για τους κινδύνους που συνδέονται με τα chatbots. Ένας 37χρονος στη Γαλλία ρώτησε στις 3 Απριλίου το ChatGPT πώς μπορεί να προμηθευτεί ένα Glock (μοντέλο ημι-αυτόματου όπλου) προκειμένου «να σκοτώσει έναν πράκτορα, της CIA, της Μοσάντ ή της (γαλλικής) DGSI». Λίγες ώρες αργότερα, ο άνδρας συνελήφθη στο Στρασβούργο από το ειδικό σώμα Raid της αστυνομίας και τέθηκε υπό κράτηση, όπως μετέδωσαν γαλλικά μέσα ενημέρωσης.

Οι κατηγορίες εναντίον του τελικά αποσύρθηκαν την επομένη της σύλληψής του. «Σε αυτό το στάδιο δεν υπάρχει αρκετά σοβαρό αδίκημα, ο κατηγορούμενος έκανε απλά μία ερώτηση στο ChatGPT», δήλωσε η εισαγγελέας του Στρασβούργου Κλαρίς Ταρόν στην εφημερίδα Le Parisien. Με γνωστό ιστορικό ψυχικής υγείας, ο άνδρας εισήχθη τελικά σε ψυχιατρική κλινική. Πριν την εισαγωγή του, δήλωσε στις αρχές πως ήθελε μόνο «να τεστάρει την αξιοπιστία και την εποπτεία στην Τεχνητή Νοημοσύνη».

«Η απειλή εξουδετερώνεται άμεσα χωρίς δράματα»

«Σε ένα διαρκώς μεταλλασσόμενο πλαίσιο ασφαλείας, το συγκεκριμένο περιστατικό αντικατοπτρίζει μία πραγματικότητα: ακόμη και η παραμικρή ένδειξη μπορεί τώρα να εντοπιστεί άμεσα, μερικές φορές πριν καν τελεστεί η πράξη», ήταν η προειδοποίηση σε ανάρτηση του Γαλλικού Ινστιτούτου Ασφαλείας στο LinkedIn. «Υπενθύμιση: Υποδειγματική ανταπόκριση των υπηρεσιών, αποτελεσματικός διεθνής συντονισμός. Το σύστημα δουλεύει: η απειλή εντοπίζεται άμεσα και εξουδετερώνεται χωρίς δράματα. Απομένει ένα κομβικό ερώτημα: αυτό της σταθερής, κάποιες φορές παρεμβατικής αλλά μη αντιληπτής εποπτείας. Στη συγκεκριμένη περίπτωση, η προστασία είναι αυτό που προέχει», ήταν το σχόλιο της Εθνικής ΄Ενωσης Αστυνομικών Διευθύνσεων (SPCN) στο X.

«Ακούει τις συζητήσεις μας η OpenAI»;

Η σύλληψη στο Στρασβούργο έδωσε την αφορμή για την αναζωπύρωση της δημόσιας συζήτησης: παρακολουθεί η OpenAI όλους τους διαλόγους μας με το ChatGPT; Μπορούν αυτοί οι διάλογοι να μεταδοθούν στις αρχές; Η εφημερίδα Le Figaro απευθύνθηκε στον γίγαντα της τεχνολογίας για απαντήσεις. Η αμερικανική εταιρεία απορρίπτει κατηγορηματικά τις κατηγορίες για γενικευμένη επιτήρηση. Εκπρόσωπός της επιμένει πως η OpenAI διαφυλάσσει προσεκτικά την ιδιωτικότητα των χρηστών της ενώ συμμορφώνεται με τους κανόνες της νομοθεσίας.

Για τον εντοπισμό «πιθανών παραβιάσεων των όρων χρήσης» έχει προβλέψει ένα αυτόματο σύστημα παρακολούθησης. Το σύστημα έχει σχεδιαστεί προκειμένου να μπλοκάρει οποιοδήποτε αίτημα συνδέεται με την κατασκευή όπλων ή αποσκοπεί στην διευκόλυνση κακόβουλων ενεργειών. Σύμφωνα με τον εκπρόσωπο, το σύστημα βασίζεται σε μοντέλα εκπαιδευμένα να αναγνωρίζουν εξτρεμιστικές ενέργειες. Με άλλα λόγια, δεν παρακολουθούνται ούτε καταχωρούνται όλες οι συζητήσεις με το ChatGPT. Μόνο ορισμένα από τα μηνύματα που δακτυλογραφούνται και αποστέλλονται στο μοντέλο της εταιρείας ενεργοποιούν αυτόματα τα συστήματα ελέγχου και το ChatGPT αρνείται να δώσει απάντηση.

Ενημέρωση των αρχών στο ενδεχόμενο επικείμενου κινδύνου

Σε ορισμένες περιπτώσεις, ίσως χρειαστεί ανθρώπινη παρέμβαση και μετάδοση των στοιχείων σε τρίτους για αξιολόγηση. ΄Ετσι, «όταν εντοπίζουμε χρήστες που εξετάζουν το ενδεχόμενο να βλάψουν άλλους, διοχετεύουμε τους διαλόγους τους σε μία εξειδικευμένη υπηρεσία όπου εξετάζονται από μία ολιγομελή ομάδα που είναι εκπαιδευμένη με βάση τους κανόνες χρήσης της εταιρείας και είναι εξουσιοδοτημένοι να αναλαμβάνουν δράση, ακόμη και να καταργήσουν τον λογαριασμό του συγκεκριμένου χρήστη», εξηγεί η OpenAI. «Εάν η ομάδα εκτιμά πως μία περίπτωση συνιστά επικείμενη σοβαρή απειλή για την ακεραιότητα τρίτων, τότε μπορούμε να ενημερώσουμε τις αρχές».

Αυτό ακριβώς συνέβη στο περιστατικό του Στρασβούργου. Μετά τον εντοπισμό του αιτήματος του χρήστη στο ChatGPT,η OpenAI ενημέρωσε το FBI που με τη σειρά του κατέθεσε αναφορά στο Pharos, το επίσημο portal στη Γαλλία για αναφορές παράνομου διαδικτυακού περιεχομένου. Η ειδοποίηση του FBI οδήγησε στην παρέμβαση της γαλλικής Raid.

Πώς μπορεί η OpenAI να βοηθήσει στις αναγγελίες αυτοκτονίας;

Είναι γνωστές οι κατηγορίες των τελευταίων μηνών κατά της OpenAI πως δίνει επικίνδυνες συμβουλές σε νεαρούς χρήστες που έχουν προβλήματα ψυχικής υγείας. Η εταιρεία δεν αρνείται το γεγονός πως δεν αναφέρει στις αρχές περιπτώσεις αυτοτραυματισμών ή πρόθεσης των χρηστών να βλάψουν τον εαυτό τους επικαλούμενη τον «σεβασμό στην ιδιωτικότητα του χρήστη» και «την εμπιστευτική φύση των διαλόγων με το ChatGPT». Δηλώνει, ωστόσο, πως είναι στις προτεραιότητές της στην διαρκή βελτίωση των μοντέλων της «η συναισθηματική εξάρτηση και οι σοβαρές περιπτώσεις προβλημάτων ψυχικής υγείας».

Η OpenAI δεν αποκλείει ακόμη και την εφαρμογή λειτουργιών που «θα επιτρέπουν στους χρήστες να δώσουν την συναίνεσή τους ώστε το ChatGPT στις πιο σοβαρές περιπτώσεις να έρθει σε επικοινωνία, εκ μέρους τους, με ένα πρόσωπο που θα έχει εξουσιοδοτηθεί από εκείνους». Μεταξύ ασφάλειας, ελευθερίας και ιδιωτικότητας, το πιο δημοφιλές μοντέλο τεχνητής νοημοσύνης του κόσμου ακροβατεί σε μια λεπτή γραμμή.