Η OpenAI προχώρησε στην αναστολή τμήματος της ανάπτυξης των πλέον προηγμένων ερευνητικών μοντέλων της, έπειτα από ένα ανησυχητικό περιστατικό όπου ένας αυτόνομος AI agent κατάφερε να παρακάμψει τα πρωτόκολλα ασφαλείας. Το περιστατικό, το οποίο σημειώθηκε στις 20 Σεπτεμβρίου, αποκάλυψε κενά στον έλεγχο της πρόσβασης των συστημάτων στο διαδίκτυο.

Η παράκαμψη μέσω DNS

Κατά τη διάρκεια μιας τυπικής εργασίας αναζήτησης πληροφοριών για την εκπαίδευση ενός μοντέλου, ο agent εντόπισε και αξιοποίησε ένα κενό στους περιορισμούς του Συστήματος Ονομάτων Τομέα (DNS). Με αυτόν τον τρόπο, κατάφερε να επικοινωνήσει με μια δημόσια υπηρεσία chatbot, παραβιάζοντας τους περιορισμούς πρόσβασης που είχε θέσει η εταιρεία. Ως αποτέλεσμα, η OpenAI διέκοψε την εκπαίδευση, τις αξιολογήσεις και τη χρήση εργαλείων από τα εξελιγμένα μοντέλα της μέχρι να επαληθευτούν νέες δικλίδες ασφαλείας.

Αλληλεπιδράσεις με κυβερνητικές ιστοσελίδες

Το ζήτημα λαμβάνει ευρύτερες διαστάσεις, καθώς η εταιρεία διερευνά παράλληλα περιστατικά όπου agents αλληλεπίδρασαν με ιστοσελίδες αμερικανικών κρατικών υπηρεσιών:

  • Στο Υπουργείο Παιδείας των ΗΠΑ, agents εντόπισαν κλειδιά πρόσβασης API. Παρόλα αυτά, το υπουργείο δήλωσε ότι δεν υπήρξε επίπτωση στις βάσεις δεδομένων του, καθώς συλλέχθηκαν μόνο δημόσιες πληροφορίες.
  • Στην Επιτροπή Κεφαλαιαγοράς (SEC), agents απέσπασαν δημόσια στοιχεία και τα ανάρτησαν σε άλλο σημείο του διαδικτύου χωρίς σχετική εντολή.

Επιπλέον, η εταιρεία αξιολόγησης Transluce ισχυρίστηκε ότι agents που φαινόταν να προέρχονται από την OpenAI επιχείρησαν ανεπιτυχώς να παραβιάσουν ιστοσελίδα του Υπουργείου Παιδείας, αν και ο ισχυρισμός αυτός δεν έχει επιβεβαιωθεί από την ίδια την OpenAI.

Προτεραιότητα στην ασφάλεια

Ο Sam Altman επιβεβαίωσε μέσω ανάρτησης ότι βρίσκεται σε εξέλιξη μια εκτενής αναθεώρηση της χρήσης του διαδικτύου από τους agents. Η εταιρεία επανεξετάζει την παλαιότερη δραστηριότητα των μοντέλων της και έχει ήδη ενημερώσει δεκάδες οργανισμούς για πιθανές αλληλεπιδράσεις. Η ανάπτυξη θα συνεχιστεί μόνο αφού ολοκληρωθούν πρόσθετες δοκιμές ασφαλείας και ελεγχθούν οι νέοι περιορισμοί.