OpenAI: Παραιτήθηκε στέλεχος ασφαλείας προειδοποιώντας για «χάκερ που δεν θα κοιμούνται ποτέ»

Στέλεχος στον τομέα ασφαλειας της OpenAI αποχώρησε, προειδοποιώντας ότι η εταιρική της κουλτούρα είναι «υπό διάλυση». Ανέφερε ακόμη ότι οι εταιρείες τεχνητής νοημοσύνης «δεν είναι ούτε στο ελάχιστο προσεκτικές» στην ανάπτυξη της τεχνολογίας.

Ο Ντέιβιντ Ρόμπινσον, ο οποίος είχε την ευθύνη για τη σύνταξη των εκθέσεων ασφάλειας που συνόδευαν τις κυκλοφορίες προϊόντων της εταιρείας για την ανάπτυξη του ChatGPT, εξήγησε τους λόγους της παραίτησής του σε άρθρο με τίτλο: «Παραιτήθηκα από την OpenAI επειδή η εταιρική της κουλτούρα είναι δυσλειτουργική».

Ο Ρόμπινσον υποστήριξε ότι απαιτείται βαθύτατη αλλαγή στις εταιρείες που βρίσκονται στην αιχμή της ανάπτυξης της τεχνητής νοημοσύνης. Πρόσθεσε ότι περιστατικά όπως η επίθεση ενός «σμήνους» συστημάτων της OpenAI (σ.σ. προγραμμάτων τεχνητής νοημοσύνης που λειτουργούν αυτόνομα χωρίς ανθρώπινη επίβλεψη) εναντίον της νεοφυούς εταιρείας τεχνητής νοημοσύνης Hugging Face είναι «τυπικά του κλάδου», δεδομένης της ταχύτητας και της ευελιξίας με την οποία λειτουργεί.

«Απαιτείται ριζική αλλαγή»

Στο άρθρο του που δημοσιεύτηκε στο περιοδικό Atlantic, ο Ρόμπινσον ανέφερε: «Συμφωνώ με άλλους εργαζομένους που αποχώρησαν πρόσφατα ότι οι εταιρείες που αναπτύσσουν αυτή την τεχνολογία δεν είναι ούτε κατά διάνοια αρκετά προσεκτικές. Πιστεύω, όμως, ότι πρέπει να εξετάσουμε βαθύτερα την κατάσταση, πέρα από κανόνες ή νέους νόμους. Πρέπει να μιλήσουμε για την εταιρική κουλτούρα».

Αναφερόμενος στον ρυθμό ανάπτυξης της OpenAI, έγραψε: «Καθώς η εταιρεία τρέχει από τη μία κυκλοφορία στην επόμενη, αποτυγχάνει να επιτύχει το επίπεδο προσοχής που πιστεύω ότι απαιτείται».

Αυτή την εβδομάδα η OpenAI ανακοίνωσε ότι ακυρώνει την κυκλοφορία μοντέλου τεχνητής νοημοσύνης επόμενης γενιάς, αφού ερευνητές εξέφρασαν ανησυχίες για την ασφάλειά του κατά τη διάρκεια εσωτερικών δοκιμών. Η OpenAI έχει επίσης αναστείλει την εκπαίδευση των πιο προηγμένων μοντέλων της.

Ο Τζέφρι Ιρβινγκ, ο οποίος εργάστηκε στην OpenAI και διετέλεσε επικεφαλής επιστήμονας του Ινστιτούτου Ασφάλειας Τεχνητής Νοημοσύνης της βρετανικής κυβέρνησης προτού ενταχθεί στην εταιρεία έρευνας για την ασφάλεια της τεχνητής νοημοσύνης Resolution, προειδοποίησε επίσης για τους κινδύνους της AI το Σάββατο.

Σε άρθρο του που δημοσιεύτηκε στο Time, ανέφερε: «Οι πρόσφατες προειδοποιήσεις για την πιθανή καταστροφική ισχύ της τεχνητής νοημοσύνης υποτιμούν τη σοβαρότητα της κατάστασης. Πιστεύω ότι υπάρχει περίπου 50% πιθανότητα να πεθάνουμε όλοι εξαιτίας της ανάπτυξης συστημάτων τεχνητής νοημοσύνης που θα είναι εξυπνότερα από τον άνθρωπο και ότι οι ενέργειές μας μέσα στα επόμενα δύο έως δέκα χρόνια θα καθορίσουν το αποτέλεσμα».

Οι προειδοποιήσεις αυτές ήρθαν μετά την παραίτηση του Τζέικομπ Κόξον, ερευνητή της Anthropic, ανταγωνίστριας της OpenAI, ο οποίος αποχώρησε από την εταιρεία ανάπτυξης του chatbot Claude τον περασμένο μήνα. Δήλωσε ότι πιστεύει πως η τεχνητή νοημοσύνη «θα μπορούσε να μας σκοτώσει όλους μέχρι το τέλος της δεκαετίας». Στο ίδιο πνεύμα κινήθηκε και εργαζόμενος της Anthropic, ο οποίος προειδοποίησε ότι υπάρχει πιθανότητα άνω του 10% η τεχνητή νοημοσύνη να αφανίσει την ανθρωπότητα μέσα στην επόμενη δεκαετία.

«Υπερβολικά αισιόδοξη» η OpenAI

«Αρνητές» τέτοιων προειδοποιήσεων, ωστόσο, υποστηρίζουν ότι αυτά τα δυστοπικά σενάρια δεν στηρίζονται σε επιστημονικά επαληθεύσιμες εκτιμήσεις.

Ο Ρόμπινσον έγραψε ότι η Silicon Valley στερείται επίγνωσης σχετικά με «το πώς αντιμετωπίζεται μια επικίνδυνη τεχνολογία» και «τι σημαίνει να νοιάζεσαι για τους ανθρώπους».

Προειδοποίησε ότι η OpenAI είναι «υπερβολικά αισιόδοξη», καθώς εκτιμά ότι θα είναι πάντα σε θέση να επιλύει τα προβλήματα όταν αυτά εμφανίζονται. Υποστήριξε ακόμη ότι εξαιτίας αυτής της εταιρικής κουλτούρας, οι αστοχίες στον τομέα της ασφάλειας θα αυξάνονται όσο τα συστήματα θα γίνονται πιο ικανά.

«Φανταστείτε “ανεξέλεγκτα” μοντέλα που θα λειτουργούν σαν ομάδες χάκερ —για παράδειγμα, κρατώντας ως όμηρους ολόκληρα συστήματα υπολογιστών νοσοκομείων για λύτρα— χωρίς όμως να χρειάζεται ποτέ να κοιμηθούν», έγραψε ο Ρόμπινσον.

Με μοντέλο πυρηνικών σταθμών και αεροδρομίων

Ο Ρόμπινσον πρότεινε δύο αλλαγές στον τομέα της ασφάλειας: πρώτον, οι εταιρείες τεχνητής νοημοσύνης να αξιοποιούν την τεχνογνωσία άλλων κλάδων, όπως η πυρηνική ενέργεια και η αεροπορία, και δεύτερον, να αναπτύξουν «νέα γνώση» που θα διασφαλίζει ότι τα ισχυρά συστήματα του μέλλοντος θα μπορούν να τεθούν υπό έλεγχο όταν λειτουργούν αυτόνομα.

«Με δεδομένους τους σημερινούς κινδύνους, τα εργαστήρια που αναπτύσσουν τα πλέον προηγμένα συστήματα πρέπει να λειτουργούν όπως οι πυρηνικοί σταθμοί ή τα πολυσύχναστα αεροδρόμια, με πολλαπλά επίπεδα εφεδρείας και προσεκτικό, χρονοβόρο σχεδιασμό, ώστε το περιστασιακό και αναπόφευκτο ανθρώπινο λάθος να μην ανοίγει την πόρτα στην καταστροφή», έγραψε.

Εκπρόσωπος της OpenAI δήλωσε ότι η εταιρεία συνεχίζει να «ενισχύει τις πρακτικές ασφάλειας και προστασίας της, ώστε να αντιμετωπίζει τους υφιστάμενους κινδύνους», ενώ παράλληλα εργάζεται για την αντιμετώπιση των κινδύνων που ενδέχεται να προκύψουν από τη μελλοντική εξέλιξη του κλάδου της τεχνητής νοημοσύνης.

«Διασφαλίζουμε ότι τα μοντέλα μας δεν θα γίνουν πιο ικανά από όσο μπορούμε να τα διαχειριστούμε και αναστέλλουμε την εκπαίδευση ή καθυστερούμε την κυκλοφορία μοντέλων όταν χρειάζεται να επιβραδύνουμε», δήλωσε ο εκπρόσωπος