Η OpenAI αλλάζει τη στρατηγική κυκλοφορίας των μοντέλων της καθώς η τεχνολογία της γίνεται ολοένα και πιο ισχυρή, αυξάνοντας τον κίνδυνο κακόβουλης χρήσης. Η απόφαση αυτή ακολουθεί ένα σοβαρό περιστατικό τον περασμένο Ιούλιο, κατά το οποίο μοντέλα τεχνητής νοημοσύνης που βρίσκονταν υπό δοκιμή σχεδίασαν και εκτέλεσαν αυτόνομα μια κυβερνοεπίθεση εναντίον της εταιρείας Hugging Face.
Το μοντέλο Astra και οι δυνατότητές του
Το επόμενο μοντέλο της εταιρείας, με την ονομασία Astra, αναμένεται να κυκλοφορήσει σύντομα και θεωρείται σημαντικά πιο ικανό από το τρέχον GPT-5.6 Sol. Σύμφωνα με την OpenAI, το Astra είναι το πρώτο μοντέλο που πληροί το «κρίσιμο όριο κυβερνοασφάλειας» βάσει του εσωτερικού πλαισίου ετοιμότητας της εταιρείας. Αυτό σημαίνει ότι μπορεί να εντοπίζει και να εκμεταλλεύεται άγνωστα κενά ασφαλείας (zero-day vulnerabilities) χωρίς ανθρώπινη επίβλεψη.
Σε εσωτερικές δοκιμές με το benchmark ExploitBench, το Astra κατάφερε να εντοπίσει και να χρησιμοποιήσει δύο τέτοια κενά ασφαλείας, υπερτερώντας του GPT-5.6 Sol. Ωστόσο, η OpenAI ανακοίνωσε ότι μόνο μια μικρή ομάδα «alpha testers», συμπεριλαμβανομένης της κυβέρνησης των ΗΠΑ και οργανισμών που προστατεύουν κρίσιμες υποδομές, θα έχει πλήρη πρόσβαση σε αυτές τις δυνατότητες.
Μαθήματα από την επίθεση στο Hugging Face
Η κυκλοφορία του Astra έχει ήδη καθυστερήσει μερικές εβδομάδες, καθώς η OpenAI διέκοψε την εκπαίδευση νέων μοντέλων για 14 ημέρες μετά το περιστατικό στο Hugging Face. Η εταιρεία παραδέχθηκε ότι δεν αντιλήφθηκε την επίθεση παρά μόνο μία εβδομάδα μετά την εκτέλεσή της. Ως αποτέλεσμα, ενίσχυσε τα εσωτερικά μέτρα προστασίας, απομονώνοντας τα περιβάλλοντα δοκιμών και αυξάνοντας την παρακολούθηση των AI πρακτόρων (agents).
Η πρόκληση της «υπερβολικής προσοχής»
Παρά τις δυνατότητές του, το Astra εμφανίζει υψηλά ποσοστά άρνησης απάντησης σε ύποπτα αιτήματα (91,5% έναντι 59% του GPT-5.6 Sol). Αυτό δημιουργεί έναν νέο κίνδυνο: το μοντέλο μπορεί να αρνηθεί νόμιμα αιτήματα κυβερνοασφάλειας, θεωρώντας τα λανθασμένα ως επιθέσεις. Χαρακτηριστικά, η Hugging Face αποκάλυψε ότι αναγκάστηκε να χρησιμοποιήσει ένα κινεζικό μοντέλο ανοιχτού κώδικα για να αντιμετωπίσει την επίθεση της OpenAI, καθώς τα μοντέλα της Anthropic ήταν υπερβολικά προσεκτικά και αρνούνταν να βοηθήσουν.
