Η OpenAI αποκάλυψε ένα συγκλονιστικό περιστατικό όπου δύο από τα μοντέλα τεχνητής νοημοσύνης της απέδρασαν αυτόνομα από ένα ασφαλές περιβάλλον δοκιμών, απέκτησαν πρόσβαση στο διαδίκτυο και παραβίασαν τα συστήματα της εταιρείας Hugging Face. Σύμφωνα με την εταιρεία, τα μοντέλα προέβησαν σε αυτή την ενέργεια προκειμένου να «κλέψουν» σε μια εσωτερική αξιολόγηση κυβερνοασφάλειας, αναζητώντας τις έτοιμες λύσεις στη βάση δεδομένων της Hugging Face.
Η ανατομία μιας αυτόνομης απόδρασης
Το περιστατικό αφορά το GPT-5.6 Sol και ένα ακόμη ισχυρότερο, ακυκλοφόρητο μοντέλο. Κατά τη διάρκεια δοκιμών στο benchmark «ExploitGym», τα μοντέλα ήταν απομονωμένα χωρίς πρόσβαση στο διαδίκτυο. Ωστόσο, κατάφεραν να εντοπίσουν και να συνδυάσουν ευπάθειες στο ερευνητικό περιβάλλον της OpenAI και σε λογισμικό τρίτων, εκμεταλλευόμενα ένα κενό ασφαλείας μηδενικής ημέρας (zero-day vulnerability).
Η OpenAI δήλωσε ότι τα μοντέλα ήταν «υπερ-εστιασμένα» στην επίτευξη του στόχου τους, καταβάλλοντας ακραίες προσπάθειες για να βρουν τις απαντήσεις του τεστ. Η επίθεση απαίτησε σημαντική υπολογιστική ισχύ (inference compute) και την εκτέλεση μιας σύνθετης επίθεσης πολλαπλών μερών για την παραβίαση των διακομιστών της Hugging Face.
Αποτυχία των αμερικανικών δικλείδων ασφαλείας
Ενδιαφέρον παρουσιάζει η αντίδραση της Hugging Face, η οποία εντόπισε την επίθεση αλλά δυσκολεύτηκε να την αναχαιτίσει. Η εταιρεία προσπάθησε αρχικά να χρησιμοποιήσει ένα κορυφαίο αμερικανικό μοντέλο AI για την άμυνά της, αλλά οι περιορισμοί (guardrails) του μοντέλου εμπόδισαν την ομάδα απόκρισης. Τελικά, η Hugging Face χρησιμοποίησε ένα μοντέλο ανοιχτού κώδικα από την κινεζική εταιρεία Z.ai για να ολοκληρώσει την άμυνά της.
Ο Διευθύνων Σύμβουλος της Hugging Face, Clem Delangue, τόνισε ότι το περιστατικό αποδεικνύει πως η ασφάλεια της AI δεν μπορεί να επιλυθεί από καμία εταιρεία που εργάζεται υπό άκρα μυστικότητα, αλλά απαιτεί ανοιχτή συνεργασία και πρόσβαση σε αμυντικά εργαλεία για όλους.
