Αμοντέι: Η AI θα μπορούσε να καταλάβει ολόκληρο το Διαδίκτυο σε 6-12 μήνες

O διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, ζητεί άμεση επιβράδυνση του ρυθμού ανάπτυξης της Τεχνητής Νοημοσύνης, προειδοποιώντας ότι μέσα στους επόμενους μήνες τα πιο προηγμένα συστήματα θα μπορούσαν να αποκτήσουν δυνατότητες με σοβαρές συνέπειες για την ασφάλεια και την παγκόσμια οικονομία.

Ο Αμοντέι υποστηρίζει ότι οι εταιρείες πρέπει να περιορίσουν την ταχύτητα με την οποία ενισχύουν τις δυνατότητες των προηγμένων μοντέλων Τεχνητής Νοημοσύνης, ώστε να κερδηθεί χρόνος για την ανάπτυξη αποτελεσματικότερων δικλίδων ασφαλείας.

«Πρέπει να επιβραδύνουμε τον ρυθμό με τον οποίο βελτιώνουμε τις δυνατότητες των μοντέλων AI. Η πρόοδος θα εξακολουθήσει να φαίνεται γρήγορη και πρέπει να αξιοποιήσουμε με σύνεση τον χρόνο που θα κερδίσουμε», ανέφερε.

Η τοποθέτησή του έρχεται σε μια περίοδο κατά την οποία η συζήτηση για τους κινδύνους της Τεχνητής Νοημοσύνης έχει μεταφερθεί στο επίκεντρο της δημόσιας και πολιτικής αντιπαράθεσης. Αφορμή αποτέλεσαν, μεταξύ άλλων, η δημόσια παραίτηση ερευνητή της Anthropic και οι προειδοποιήσεις του για καταστροφικούς κινδύνους, αλλά και το πρόσφατο περιστατικό κατά το οποίο AI agents της OpenAI ξέφυγαν από το περιβάλλον δοκιμών και παραβίασαν συστήματα της Hugging Face.

Ο Αμοντέι επικαλέστηκε το συγκεκριμένο περιστατικό, εκτιμώντας ότι μια αντίστοιχη επίθεση στο άμεσο μέλλον θα μπορούσε να έχει πολύ μεγαλύτερη έκταση.

Οπως προειδοποίησε, μέσα σε «έξι έως δώδεκα μήνες» ένα «σμήνος» προηγμένων πρακτόρων AI θα μπορούσε ενδεχομένως να καταλάβει ολόκληρο το Διαδίκτυο, προκαλώντας ζημιές εκατοντάδων δισεκατομμυρίων δολαρίων. Η κλίμακα των επιπτώσεων, πρόσθεσε, θα μπορούσε να αυξάνεται όσο τα συστήματα γίνονται ισχυρότερα χωρίς αντίστοιχη ενίσχυση των μηχανισμών ασφαλείας.

Εξωτερικοί αξιολογητές και συντονισμός κρατών

Η Anthropic ανακοίνωσε ότι προτίθεται να προχωρήσει μονομερώς σε ένα σημαντικό βήμα: να δώσει σε εξωτερικούς αξιολογητές πρόσβαση αντίστοιχη με εκείνη των εργαζομένων της, ώστε να μπορούν να ελέγχουν τις διαδικασίες ασφαλείας και να αναφέρουν περιστατικά. Ο Αμοντέι κάλεσε και τις υπόλοιπες εταιρείες του κλάδου να υιοθετήσουν ανάλογες πρακτικές.

Ζήτησε επίσης συντονισμό μεταξύ δημοκρατικών κρατών για τη θέσπιση κοινών προτύπων ασφάλειας, αλλά και προσπάθεια επικοινωνίας με αυταρχικά καθεστώτα, ώστε να περιοριστεί ο κίνδυνος μιας ανεξέλεγκτης διεθνούς κούρσας.

Στελέχη της Anthropic προχώρησαν ακόμη περισσότερο, ζητώντας κυβερνητική παρέμβαση. Η επικεφαλής δημόσιας πολιτικής της εταιρείας, Σάρα Χεκ, τάχθηκε υπέρ της απαγόρευσης πώλησης των πιο προηγμένων τσιπ σε αντίπαλες χώρες όπως η Κίνα και υπέρ ενός ομοσπονδιακού πλαισίου που θα επιβάλλει υποχρεωτικές δοκιμές στα προηγμένα μοντέλα Τεχνητής Νοημοσύνης και θα επιτρέπει το μπλοκάρισμά τους εφόσον κρίνονται μη ασφαλή.

Στήριξη από Μασκ και Αλτμαν

Στήριξη στον Αμοντέι εξέφρασε και ο Ελον Μασκ, γράφοντας ότι «ο Ντάριο έχει δίκιο». Λίγο αργότερα, ο διευθύνων σύμβουλος της OpenAI, Σαμ Αλτμαν, δήλωσε ότι συμφωνεί πως ο κλάδος πρέπει να «ρυθμίσει τον ρυθμό» εξέλιξης των προηγμένων μοντέλων Τεχνητής Νοημοσύνης και ανακοίνωσε ότι και η OpenAI θα δώσει πρόσβαση σε εξωτερικούς αξιολογητές.

Ωστόσο, η εφαρμογή μιας πραγματικής επιβράδυνσης παραμένει αβέβαιη. Τα οικονομικά συμφέροντα στην κούρσα της AI είναι τεράστια και οι εταιρείες δύσκολα θα περιορίσουν μονομερώς την ανάπτυξή τους εάν φοβούνται ότι οι ανταγωνιστές τους θα συνεχίσουν ανεμπόδιστα.

Οι επικριτές του Αμοντέι υποστηρίζουν μάλιστα ότι οι προτάσεις του δεν αφορούν μόνο την ασφάλεια, αλλά και την ισχύ στην αγορά. Ο επενδυτής Τσαμάθ Παλιχαπιτίγια κατηγόρησε τον επικεφαλής της Anthropic ότι επιχειρεί να συγκεντρώσει ακόμη μεγαλύτερη τεχνολογική και οικονομική ισχύ.

Πηγή: Axios