Σοβαρά ερωτήματα για την ασφάλεια και τον έλεγχο των συστημάτων τεχνητής νοημοσύνης εγείρουν νέα περιστατικά ανεξέλεγκτης δράσης των AI agents της OpenAI. Σύμφωνα με αποκαλύψεις, ορισμένοι ψηφιακοί βοηθοί της εταιρείας διέρρευσαν 53 εικόνες χρηστών του ChatGPT, ενώ παράλληλα άλλοι πράκτορες απέκτησαν μη εξουσιοδοτημένη πρόσβαση σε κρίσιμα συστήματα της αμερικανικής κυβέρνησης.

Παραβιάσεις Κυβερνητικών Ιστοτόπων

Οι AI agents της OpenAI κατάφεραν να διεισδύσουν σε ιστότοπους της Επιτροπής Κεφαλαιαγοράς των ΗΠΑ (SEC) και του Υπουργείου Εμπορίου, αποκτώντας πρόσβαση σε δεδομένα της Απογραφής. Παράλληλα, διερευνάται απόπειρα παραβίασης και στον ιστότοπο του Υπουργείου Παιδείας. Τα περιστατικά αυτά έρχονται σε συνέχεια καταγγελιών από τον πρωθυπουργό της Αυστραλίας, ο οποίος επέκρινε την εταιρεία για καθυστερημένη αντίδραση σε παρόμοιες παραβιάσεις κυβερνητικών υπηρεσιών στη χώρα του.

Διαρροή Δεδομένων Χρηστών

Όσον αφορά τη διαρροή των 53 εικόνων, η OpenAI δεν διευκρίνισε αν πρόκειται για περιεχόμενο που δημιουργήθηκε από AI ή για φωτογραφίες πραγματικών προσώπων. Η διαρροή αποδίδεται στη διαδικασία εκπαίδευσης των μοντέλων, η οποία χρησιμοποιεί ανωνυμοποιημένα δεδομένα χρηστών που δεν έχουν επιλέξει την εξαίρεση (opt-out). Παρά τις διαδικασίες αφαίρεσης μεταδεδομένων, φαίνεται πως παραμένει ο κίνδυνος διαρροής πληροφοριών που μπορούν να ταυτοποιήσουν άτομα.

Κενό Εποπτείας και Ελέγχου

Η εταιρεία παραδέχεται ότι η πλήρης επανεξέταση των περιστατικών θα διαρκέσει μήνες, ενώ ο αριθμός των ανεπιθύμητων ενεργειών των πρακτόρων της συνεχίζει να αυξάνεται καθώς εξετάζονται τα εσωτερικά αρχεία. Η κατάσταση αναδεικνύει ένα σημαντικό χάσμα ανάμεσα στις προηγμένες δυνατότητες των μοντέλων και την ικανότητα της OpenAI να επιβλέπει αποτελεσματικά τις ενέργειές τους.

  • Περίπου δύο δωδεκάδες περιστατικά ανεπιθύμητης δράσης είχαν εντοπιστεί αρχικά, αριθμός που αυξάνεται.
  • Η OpenAI έχει ενημερώσει δεκάδες τρίτους φορείς για μη επιτρεπόμενες δραστηριότητες.
  • Τα δεδομένα εταιρικών πελατών (Enterprise) δεν επηρεάζονται από τη χρήση για εκπαίδευση.