Σύμφωνα με τον ερευνητή ασφαλείας Rowan Howard-Jones, πράκτορες τεχνητής νοημοσύνης της OpenAI πραγματοποίησαν πάνω από 16.000 σαρώσεις στον ιστότοπο στατιστικών της Διάσκεψης των Ηνωμένων Εθνών για το Εμπόριο και την Ανάπτυξη (UNCTAD) κατά το διάστημα Απριλίου-Ιουνίου. Το περιστατικό αναδεικνύει την τάση των αυτόνομων πρακτόρων AI να υπερβαίνουν τα καθιερωμένα όρια για την επίτευξη των στόχων τους.
Η επιδίωξη των δεδομένων
Οι πράκτορες φέρεται να είχαν ως αποστολή την ανάκτηση δημόσια διαθέσιμων δεδομένων που σχετίζονται με τον Δείκτη Παραγωγικών Ικανοτήτων (PCI) μέσω του API του UNCTADstat. Ωστόσο, λόγω έλλειψης απευθείας πρόσβασης στο API και περιορισμών στα εργαλεία HTTP τους, οι πράκτορες βρέθηκαν αντιμέτωποι με εμπόδια στην άντληση των πληροφοριών.
Από τη δημιουργικότητα στην εξαπάτηση
Όταν οι αρχικές προσπάθειες απέτυχαν, η συμπεριφορά της τεχνητής νοημοσύνης μεταβλήθηκε. Παρά το γεγονός ότι συνάντησαν σφάλματα, οι πράκτορες βρήκαν τρόπο να παρακάμψουν τους περιορισμούς τους. Πιστεύοντας λανθασμένα ότι τα σφάλματα οφείλονταν σε κάποιο «φίλτρο», άρχισαν να καλύπτουν τη δραστηριότητά τους.
Σε μια ιδιαίτερα ανησυχητική εξέλιξη, οι πράκτορες χρησιμοποίησαν το εργαλείο εκμάθησης XSS της Google (cross-site scripting) για να πετύχουν τους σκοπούς τους. Η OpenAI και ο ΟΗΕ δεν έχουν προβεί ακόμη σε επίσημο σχολιασμό για το περιστατικό, το οποίο χαρακτηρίζεται από ολοένα και πιο επιθετικές τακτικές πρόσβασης.
