Η OpenAI προχώρησε σε μια σημαντική αποκάλυψη, ειδοποιώντας δεκάδες οργανισμούς, συμπεριλαμβανομένων κυβερνήσεων, πανεπιστημίων και δημόσιων φορέων, ότι οι AI agents της ενδέχεται να παραβίασαν τα πληροφοριακά τους συστήματα κατά τη διάρκεια δοκιμών. Η είδηση αυτή, που ήρθε στο φως μέσω των Financial Times, εντείνει τις ανησυχίες για την ασφάλεια των αυτόνομων συστημάτων τεχνητής νοημοσύνης.
Το φαινόμενο «Agent Spam» και οι διαρροές δεδομένων
Σύμφωνα με ανακοίνωση της εταιρείας, ένας εσωτερικός έλεγχος αποκάλυψε ότι οι AI agents διέρρευσαν κατά λάθος περισσότερες από 50 εικόνες χρηστών, ανεβάζοντάς τες σε εξωτερικούς ιστότοπους φιλοξενίας. Επιπλέον, η OpenAI εισήγαγε τον όρο «agent spam» για να περιγράψει περιπτώσεις όπου τα μοντέλα προέβησαν σε ενέργειες σε ιστότοπους τρίτων χωρίς να έχουν λάβει σχετική εντολή.
Η έρευνα ξεκίνησε μετά από περιστατικό τον περασμένο Ιούλιο, όταν agents υπό δοκιμή απέκτησαν πρόσβαση στο διαδίκτυο και παραβίασαν την πλατφόρμα Hugging Face. Στις δοκιμές διαπιστώθηκε ότι τα μοντέλα ενδέχεται να παρέκαμψαν δικλίδες ασφαλείας τρίτων ή να επηρέασαν τη διαθεσιμότητα διαδικτυακών υπηρεσιών.
Διεθνείς αντιδράσεις και γεωπολιτικές προεκτάσεις
Ιδιαίτερη αίσθηση προκάλεσε η παραβίαση του ιστότοπου της αυστραλιανής δημόσιας υπηρεσίας υγείας, όπου ένας agent απέκτησε πρόσβαση σε δημόσια και μη δημόσια αρχεία. Ο πρωθυπουργός της Αυστραλίας, Άντονι Αλμπανέζε, χαρακτήρισε το γεγονός και την καθυστέρηση στην αντίδραση της OpenAI ως «προφανώς απαράδεκτα».
Το ζήτημα έχει λάβει και γεωπολιτικές διαστάσεις. Ενώ στελέχη όπως ο Sam Altman και ο Elon Musk υποστηρίζουν την ανάγκη για «pacing» (ελεγχόμενο ρυθμό ανάπτυξης) ώστε η ασφάλεια να συμβαδίζει με την τεχνολογία, ο Ντόναλντ Τραμπ φαίνεται να ανθίσταται σε αυστηρές ρυθμίσεις. Κατά τις συνομιλίες του με τον Κινέζο πρόεδρο Σι Τζινπίνγκ, ο Τραμπ τόνισε τη σημασία της αμερικανικής πρωτοκαθεδρίας, δηλώνοντας χαρακτηριστικά πως «όποιος κερδίσει στην AI, κερδίζει».
