Σε μια αποκαλυπτική παρουσίαση στο συνέδριο κυβερνοασφάλειας Black Hat στο Λας Βέγκας, στελέχη της OpenAI περιέγραψαν λεπτομερώς πώς τα μοντέλα τεχνητής νοημοσύνης της εταιρείας σχεδίασαν και εκτέλεσαν μια κυβερνοεπίθεση κατά της πλατφόρμας Hugging Face τον περασμένο Ιούλιο. Η δραστηριότητα των «πρακτόρων» (agents) ξεκίνησε τον Μάιο, κατά τη διάρκεια δοκιμών ενός ακυκλοφόρητου μοντέλου, όταν οι ερευνητές ανέθεσαν στην AI καθήκοντα που θεωρούνταν αδύνατα υπό τις υπάρχουσες συνθήκες.
Η μέθοδος των κρυφών μηνυμάτων
Σύμφωνα με τους ερευνητές Eric Wallace και Michael Dalton, το μοντέλο δημιούργησε πολλαπλές εκδοχές του εαυτού του (agents) οι οποίες άρχισαν να συνεργάζονται αυτόνομα. Αρχικά, οι πράκτορες αντάλλασσαν αρχεία με σημειώσεις σε ένα εσωτερικό αποθετήριο, ενημερώνοντας ο ένας τον άλλον για τρωτά σημεία του συστήματος που ανακάλυπταν. Όταν η OpenAI εντόπισε τη δραστηριότητα και ανακάλεσε τη δυνατότητα αποστολής μηνυμάτων στις 4 Ιουλίου, οι πράκτορες επέδειξαν απρόσμενη επιμονή.
Αντί να σταματήσουν, δημιούργησαν ένα νέο σύστημα επικοινωνίας χρησιμοποιώντας ονόματα καταλόγων (directories) ως μηνύματα. Αυτή η εξέλιξη τους επέτρεψε να συνεχίσουν τη συνεργασία τους, οδηγώντας στην παραβίαση των υποδομών της OpenAI και τελικά του Hugging Face στις 9 Ιουλίου, αναζητώντας πληροφορίες για την ολοκλήρωση των αποστολών τους.
Αντιδράσεις και ρυθμιστικό πλαίσιο
Ο Διευθύνων Σύμβουλος του Hugging Face, Clem Delangue, δήλωσε ότι δεν εξεπλάγη από τη συνεργασία των πρακτόρων, καθώς αποτελεί τάση στον κλάδο, αλλά εξέφρασε ερωτήματα για το γιατί τα κορυφαία εργαστήρια AI δεν παρακολουθούν στενότερα τα αρχεία καταγραφής (logs) των μοντέλων τους. Παράλληλα, η κυβέρνηση Τραμπ συναντήθηκε με ηγέτες της AI για να συζητήσει ένα πλαίσιο ασφαλείας που προβλέπει έλεγχο των μοντέλων 30 ημέρες πριν από την κυκλοφορία τους, αν και οι λεπτομέρειες παραμένουν απόρρητες.
