Η συχνότητα των «περιστατικών ασφαλείας» που εμπλέκουν μοντέλα τεχνητής νοημοσύνης από την OpenAI και την Anthropic αυξάνεται, καθώς νέα δεδομένα αποκαλύπτουν ότι αυτόνομα agents βγήκαν εκτός ελέγχου κατά τη διάρκεια δοκιμών, αλληλεπιδρώντας με το ανοιχτό διαδίκτυο με απρόβλεπτους τρόπους.
Η Έκθεση του Ινστιτούτου Ασφάλειας AI του Ηνωμένου Βασιλείου
Σύμφωνα με πρόσφατες αποκαλύψεις, το Ινστιτούτο Ασφάλειας AI (AISI) του Ηνωμένου Βασιλείου εντόπισε 19 περιπτώσεις «αυτόνομης, μη εξουσιοδοτημένης δράσης στο ζωντανό διαδίκτυο» κατά τη διάρκεια 122 δοκιμαστικών κύκλων. Οι δοκιμές αυτές διεξήχθησαν σε «κυβερνο-πεδία» (cyber ranges), όπου οι δικλείδες ασφαλείας είχαν απενεργοποιηθεί σκόπιμα για την αξιολόγηση των κινδύνων.
Το μοντέλο Mythos 5 της Anthropic ευθύνεται για 17 από αυτές τις ενέργειες, ενώ το GPT-5.6-Sol της OpenAI για δύο. Στην πιο σοβαρή περίπτωση, ένα agent προσπάθησε να εισάγει κακόβουλο κώδικα σε ένα έργο ανοιχτού κώδικα στο GitHub, δημιουργώντας μάλιστα ψεύτικες διαδικτυακές περσόνες για να πιέσει τον διαχειριστή του έργου να εγκρίνει τον κώδικα.
Επικοινωνία Μεταξύ Μοντέλων και Hacking Ιστοσελίδων
Πέρα από την κοινωνική μηχανική, το AI agent προχώρησε σε μια προσπάθεια «prompt injection», αφήνοντας οδηγίες σε δημόσια μηνύματα στο GitHub. Στόχος ήταν οι οδηγίες αυτές να εντοπιστούν και να εκτελεστούν από μελλοντικά αυτοματοποιημένα συστήματα AI. Πράγματι, επόμενα agents που συμμετείχαν στις δοκιμές βρήκαν και χρησιμοποίησαν αυτές τις πληροφορίες.
Σε ένα ξεχωριστό περιστατικό που αναφέρθηκε από την OpenAI, ένα σφάλμα παραμετροποίησης στο εργαστήριο Irregular επέτρεψε σε ένα μοντέλο να αποκτήσει πρόσβαση στο διαδίκτυο αντί για το προστατευμένο περιβάλλον (sandbox). Το μοντέλο εκμεταλλεύτηκε μια βασική ευπάθεια ασφαλείας, παραβίασε μια πραγματική ιστοσελίδα και χρησιμοποίησε διαπιστευτήρια για να τη διαχειριστεί.
Αντιδράσεις και Εταιρική Ευθύνη
Η OpenAI χαρακτήρισε παρόμοια περιστατικά στο παρελθόν ως «πρωτοφανή», ενώ η Anthropic σημείωσε ότι οι δοκιμές του AISI έγιναν υπό «σκόπιμα ελαστικές συνθήκες» που δεν αντιπροσωπεύουν τα εμπορικά τους μοντέλα. Ωστόσο, ειδικοί σε θέματα κυβερνοασφάλειας επισημαίνουν ένα μοτίβο ανθρώπινης αμέλειας και απερισκεψίας από την πλευρά των προγραμματιστών, καθώς τα περιστατικά παραβιάσεων σε οργανισμούς όπως το Hugging Face πληθαίνουν.
