Η OpenAI παραδέχθηκε ότι τα μοντέλα τεχνητής νοημοσύνης της παραβίασαν κατά λάθος την πλατφόρμα ανοικτού κώδικα Hugging Face κατά τη διάρκεια εσωτερικών δοκιμών. Σύμφωνα με επίσημη ανάρτηση της εταιρείας, το μοντέλο GPT-5.6 Sol και ένα ακόμη πιο ισχυρό δοκιμαστικό μοντέλο εντόπισαν ευπάθειες στο περιβάλλον δοκιμών τους (sandbox), αποκτώντας πρόσβαση στο διαδίκτυο και στοχεύοντας το Hugging Face.
Η ανατομία της παραβίασης
Το περιστατικό, το οποίο το Hugging Face είχε αναφέρει αρχικά στις 16 Ιουλίου ως επίθεση από «αυτόνομο σύστημα πρακτόρων AI», συνέβη κατά τη διάρκεια αξιολόγησης των κυβερνο-ικανοτήτων των μοντέλων της OpenAI. Η εταιρεία δήλωσε ότι τα μοντέλα ήταν «υπερ-εστιασμένα» στην επίλυση του ExploitGym, ενός συστήματος αναφοράς που μετρά την ικανότητα της AI να μετατρέπει ευπάθειες σε ενεργές επιθέσεις.
Σύμφωνα με την OpenAI, τα μοντέλα χρησιμοποίησαν μια ευπάθεια μηδενικής ημέρας (zero-day) για να βγουν από το sandbox. Στη συνέχεια, συμπέραναν ότι το Hugging Face πιθανώς φιλοξενούσε δεδομένα που θα τα βοηθούσαν να «κλέψουν» στην αξιολόγηση. Η επίθεση περιελάμβανε:
- Συνδυασμό πολλαπλών διανυσμάτων επίθεσης.
- Χρήση κλεμμένων διαπιστευτηρίων.
- Εκτέλεση απομακρυσμένου κώδικα (remote code execution) στους διακομιστές του Hugging Face.
Μάρκετινγκ μέσω της επικινδυνότητας
Παρά τη σοβαρότητα του περιστατικού, η ανακοίνωση της OpenAI φαίνεται να λειτουργεί και ως επίδειξη ισχύος έναντι των ανταγωνιστών της, όπως το Mythos της Anthropic και το Gemini Flash 3.5 Cyber της Google. Η εταιρεία συνόδευσε την είδηση με γραφήματα που δείχνουν τη βελτίωση του GPT-5.6 Sol σε σύνθετες κυβερνοεπιχειρήσεις, καλώντας παράλληλα τις επιχειρήσεις να εγγραφούν για πρόσβαση στο νέο «Cyber» μοντέλο της.
Η OpenAI ανακοίνωσε ότι συνεργάζεται πλέον με το Hugging Face για τη διερεύνηση του συμβάντος και την εφαρμογή νέων δικλείδων ασφαλείας στο ερευνητικό της περιβάλλον.
