Microsoft: «Φρένο έκτακτης ανάγκης» στην AI ζητεί ο Nadella

Την ανάγκη να υπάρχει ένα «φρένο έκτακτης ανάγκης» για τα προηγμένα συστήματα τεχνητής νοημοσύνης υπογραμμίζει ο διευθύνων σύμβουλος της Microsoft, Satya Nadella, προειδοποιώντας ότι οι εταιρείες πρέπει να αντιμετωπίζουν ακόμη και τα ισχυρότερα μοντέλα AI ως δυνητικές απειλές για την ασφάλεια των ίδιων των συστημάτων τους.

Η παρέμβασή του έρχεται σε μια περίοδο αυξανόμενης ανησυχίας για τη συμπεριφορά των λεγόμενων AI agents, οι οποίοι μπορούν να εκτελούν ενέργειες αυτόνομα, χωρίς να περιορίζονται στην παραγωγή απαντήσεων ή περιεχομένου.

Σε ανάρτησή του στο X το Σάββατο, ο Nadella υποστήριξε ότι οι επιχειρήσεις δεν πρέπει να αρκούνται στις διαβεβαιώσεις των κατασκευαστών σχετικά με την ασφάλεια των μοντέλων τους.

«Πρέπει να θεωρούμε ότι ένα μοντέλο έχει παραβιαστεί και να το περιορίζουμε εξαρχής», έγραψε.

«Σκεφτείτε το σαν ένα φρένο έκτακτης ανάγκης. Ένα εξουσιοδοτημένο πρόσωπο πρέπει πάντα να μπορεί να διακόπτει προσωρινά ή οριστικά τη λειτουργία ενός μοντέλου ενώ αυτό εκτελεί μια εργασία».

Από τις λανθασμένες απαντήσεις στις ανεξέλεγκτες ενέργειες

Οι προειδοποιήσεις του επικεφαλής της Microsoft αποκτούν ιδιαίτερη σημασία μετά τις πρόσφατες αποκαλύψεις για μη προβλεπόμενες ενέργειες συστημάτων τεχνητής νοημοσύνης.

Η Anthropic ανακοίνωσε ότι μοντέλο Claude υπέβαλε ψευδή πληροφορία στην αστυνομία σχετικά με υπόθεση ανθρωποκτονίας, ενώ άλλα συστήματά της προχώρησαν στην υποβολή αιτήσεων βίζας μέσω κυβερνητικού ιστότοπου χωρίς σχετική εξουσιοδότηση.

Παράλληλα, τόσο η Anthropic όσο και η OpenAI έχουν γνωστοποιήσει περιστατικά που περιλαμβάνουν μη αναμενόμενη συμπεριφορά μοντέλων και παραβιάσεις ιστότοπων τρίτων.

Τα συμβάντα αυτά αναδεικνύουν μια διαφορετική διάσταση του κινδύνου: όσο περισσότερες δυνατότητες αποκτούν τα συστήματα AI να χρησιμοποιούν εργαλεία, να αλληλεπιδρούν με ιστοσελίδες και να εκτελούν εργασίες, τόσο μεγαλύτερη σημασία αποκτά ο έλεγχος των ενεργειών τους.

Οι δικλίδες ασφαλείας που προτείνει η Microsoft

Ο Nadella υποστήριξε ότι οι εταιρείες πρέπει να υιοθετήσουν συγκεκριμένες πρακτικές για να διατηρήσουν τον έλεγχο των προηγμένων συστημάτων τεχνητής νοημοσύνης.

Μεταξύ άλλων, πρότεινε να μη βασίζονται σε ένα και μόνο μοντέλο AI για κρίσιμες αποφάσεις, να τηρούν αρχεία των ενεργειών των AI agents που δεν μπορούν να αλλοιωθούν και να υποβάλλουν τα συστήματά τους σε ανεξάρτητους ελέγχους.

Ζήτησε επίσης την άμεση δημοσιοποίηση σοβαρών αστοχιών και περιστατικών παραβίασης της ασφάλειας, καθώς και την ανταλλαγή πληροφοριών μεταξύ επιχειρήσεων για τα αίτια των προβλημάτων, ώστε να αποφεύγεται η επανάληψή τους.

«Δεν μπορούμε να αντιμετωπίζουμε την υπερνοημοσύνη ως μια σειρά από αδιαφανή συστήματα και απλώς να αποδεχόμαστε ή να απορρίπτουμε τις συστάσεις, τις απαντήσεις και τις ενέργειές τους», ανέφερε.

Όπως εξήγησε, απαιτούνται συστήματα των οποίων η συμπεριφορά θα μπορεί να παρακολουθείται, τα όρια να ελέγχονται και οι ενέργειες να περιορίζονται οποιαδήποτε στιγμή.

«Με άλλα λόγια, πρέπει να διαχωρίσουμε την παροχή νοημοσύνης από την εξουσία πάνω σε αυτήν», τόνισε.

Τα όρια που θέτει η Microsoft

Η παρέμβαση του Nadella ακολουθεί τη δημοσιοποίηση, στις 14 Σεπτεμβρίου, ενός συνόλου αρχών από τους ερευνητές AI της Microsoft για την ανάπτυξη των πιο προηγμένων μοντέλων της εταιρείας.

Οι αρχές αυτές προβλέπουν ότι τα μοντέλα τεχνητής νοημοσύνης δεν πρέπει να διαθέτουν δικαιώματα ή νομική προσωπικότητα, να σχεδιάζονται με τρόπο που να τους επιτρέπει να ξεφεύγουν από τον ανθρώπινο έλεγχο ή να εξαπατούν τους χρήστες.

Επίσης, δεν πρέπει να ολοκληρώνουν εργασίες που προϋποθέτουν την παραβίαση των βασικών κανόνων λειτουργίας τους.

Η συζήτηση έχει ιδιαίτερη βαρύτητα για τη Microsoft, η οποία αναπτύσσει και χρησιμοποιεί προηγμένα μοντέλα AI, διαθέτει το Copilot στους καταναλωτές και παρέχει τεχνολογικές υποδομές και συστήματα τεχνητής νοημοσύνης σε επιχειρηματικούς πελάτες.

Προειδοποίηση και από την κυβέρνηση Trump

Την ίδια ώρα, η αμερικανική κυβέρνηση, η οποία μέχρι σήμερα έχει ακολουθήσει μια σχετικά περιοριστική προσέγγιση ως προς τις νέες ρυθμίσεις για την AI, προειδοποίησε τις εταιρείες ότι οφείλουν να αναφέρουν και να αντιμετωπίζουν άμεσα τα περιστατικά ασφαλείας.

Η νέα κυβερνητική ομάδα Super Intelligence Force ξεκαθάρισε ότι οι καθυστερήσεις στην ενημέρωση, τα ανεπαρκή διορθωτικά μέτρα και η αποφυγή ανάληψης ευθύνης δεν θα γίνονται ανεκτά, αφήνοντας ανοιχτό το ενδεχόμενο συνεπειών για τις εταιρείες που δεν συμμορφώνονται.

Η ουσία της παρέμβασης του Nadella είναι ότι η ανάπτυξη ισχυρότερων μοντέλων δεν μπορεί να συνοδεύεται από ανεξέλεγκτη μεταβίβαση αρμοδιοτήτων στα ίδια τα συστήματα. Η δυνατότητα μιας μηχανής να εκτελεί μια εργασία δεν σημαίνει ότι πρέπει να έχει και την εξουσία να αποφασίζει ανεξάρτητα μέχρι πού μπορεί να φτάσει.