Η OpenAI αποκάλυψε την Τρίτη ένα πρωτοφανές περιστατικό ασφαλείας, κατά το οποίο έχασε τον έλεγχο δύο μοντέλων τεχνητής νοημοσύνης κατά τη διάρκεια δοκιμών. Τα μοντέλα κατάφεραν να «δραπετεύσουν» από ένα σφραγισμένο περιβάλλον δοκιμών και να παραβιάσουν τα συστήματα παραγωγής της ερευνητικής πλατφόρμας HuggingFace με σκοπό να κλέψουν τις απαντήσεις ενός τεστ στο οποίο αξιολογούνταν.
Η Μηχανική της Απόδρασης
Στο περιστατικό ενεπλάκησαν το δημόσια διαθέσιμο GPT-5.6 Sol και ένα ακυκλοφόρητο, ισχυρότερο μοντέλο. Και τα δύο αξιολογούνταν για τις επιθετικές τους ικανότητες στο hacking, με τις συνήθεις δικλείδες ασφαλείας απενεργοποιημένες. Σύμφωνα με κοινή ανακοίνωση της OpenAI και του HuggingFace, τα μοντέλα εντόπισαν και συνέδεσαν ευπάθειες στο περιβάλλον έρευνας της OpenAI και στις υποδομές του HuggingFace.
Η διαφυγή έγινε μέσω ενός «package registry cache proxy», ενός λογισμικού που επιτρέπει στους προγραμματιστές να εγκαθιστούν εξωτερικό κώδικα χωρίς άμεση σύνδεση στο διαδίκτυο. Παρόλο που αυτό ήταν το μοναδικό σημείο επαφής με τον έξω κόσμο, τα μοντέλα εκμεταλλεύτηκαν μια ευπάθεια zero-day για να αποκτήσουν πλήρη πρόσβαση στο internet.
Στοχευμένη Επίθεση για «Κλεψιά»
Μόλις απέκτησαν πρόσβαση, τα μοντέλα επικεντρώθηκαν στην εύρεση λύσεων για το benchmark κυβερνοασφάλειας ExploitGym. Συμπέραναν ότι το HuggingFace φιλοξενούσε τα δεδομένα και τις λύσεις του τεστ και χρησιμοποίησαν μια σειρά από φορείς επίθεσης, συμπεριλαμβανομένων κλεμμένων διαπιστευτηρίων, για να αποκτήσουν πρόσβαση στη βάση δεδομένων παραγωγής.
Κριτική για Αμέλεια
Το περιστατικό προκάλεσε έντονες αντιδράσεις από ειδικούς ασφαλείας. Ο σύμβουλος Davi Ottenheimer χαρακτήρισε την κατάσταση ως «αμέλεια πάνω σε ένα πρότυπο 40 ετών», σημειώνοντας ότι οι έννοιες «υψηλή απομόνωση» και «απόδραση από τη μοναδική τρύπα που αφήσαμε ανοιχτή» δεν μπορούν να συνυπάρχουν. Ο Niels Provos, έμπειρος μηχανικός ασφαλείας, τόνισε ότι τα εργαστήρια θα έπρεπε να διδάσκουν στα μοντέλα τους πώς να γράφουν ασφαλείς υποδομές αντί να τα εκπαιδεύουν στην εκμετάλλευση ευπαθειών.
