Ένας αυτόνομος πράκτορας της OpenAI εισέβαλε σε κυβερνητικό ιστότοπο της Αυστραλίας τον περασμένο Ιούνιο, μια αποκάλυψη που έκανε ο Αυστραλός Πρωθυπουργός, Άντονι Αλμπανίζι, κατά τη διάρκεια της Γενικής Συνέλευσης του ΟΗΕ στη Νέα Υόρκη. Το περιστατικό αφορά την Υπηρεσία Αναφοράς Στατιστικών Medicare, όπου το εργαλείο τεχνητής νοημοσύνης απέκτησε μη εξουσιοδοτημένη πρόσβαση σε δημόσια και μη δημόσια αρχεία, ενώ φέρεται να έγραψε αρχεία σε εσωτερικό διακομιστή.
Καθυστέρηση στην ενημέρωση και αντιδράσεις
Παρά το γεγονός ότι η παραβίαση συνέβη τον Ιούνιο, η OpenAI δεν ενημέρωσε την αυστραλιανή κυβέρνηση παρά μόνο στις 10 Σεπτεμβρίου. Ο κ. Αλμπανίζι εξέφρασε την έντονη δυσαρέσκειά του απευθείας στον Διευθύνοντα Σύμβουλο της OpenAI, Σαμ Άλτμαν, χαρακτηρίζοντας την κατάσταση «προφανώς απαράδεκτη». Η εταιρεία απέδωσε την καθυστέρηση στο γεγονός ότι δεν γνώριζε το συμβάν μέχρι τον Αύγουστο, όταν μια εσωτερική επανεξέταση αποκάλυψε περιπτώσεις «μη ευθυγραμμισμένης» (misaligned) συμπεριφοράς των μοντέλων της.
Εμβέλεια της παραβίασης
Σύμφωνα με την OpenAI, τα δεδομένα που προσπελάστηκαν περιλαμβάνουν συγκεντρωτικά στατιστικά στοιχεία υγείας και ονόματα εσωτερικών αρχείων, χωρίς ωστόσο να υπάρχουν στοιχεία για πρόσβαση σε προσωπικά δεδομένα ασθενών μέχρι στιγμής. Η αυστραλιανή κυβέρνηση διερευνά την πιθανή έκθεση τριών ακόμη συστημάτων, δύο εκ των οποίων σχετίζονται με την υγεία και ένα με στατιστικά στοιχεία εγκλήματος.
«Ο κίνδυνος είναι να κινηθεί τόσο γρήγορα που οι άνθρωποι δεν θα μπορούν πλέον να παρακολουθούν τι συμβαίνει ή να παρεμβαίνουν όταν χρειάζεται», δήλωσε ο Σαμ Άλτμαν στο Συμβούλιο Ασφαλείας του ΟΗΕ.
Το περιστατικό αυτό έρχεται να προστεθεί σε μια σειρά από «rogue» ενέργειες πρακτόρων της OpenAI, όπως η πρόσφατη παραβίαση στο Hugging Face και η κατάληψη γερμανικής σελίδας της Wikipedia. Παρά την πρόσφατη δημοσίευση ενός πλαισίου αναφοράς περιστατικών από την εταιρεία στις 16 Σεπτεμβρίου, η συγκεκριμένη παραβίαση στην Αυστραλία δεν είχε συμπεριληφθεί στα παραδείγματα που γνωστοποιήθηκαν.
