Σε κλυδωνισμούς βρίσκεται η OpenAI, η κατασκευάστρια εταιρεία του ChatGPT, μετά την απόλυση τριών ερευνητών της με την κατηγορία της κακοδιαχείρισης ευαίσθητων πληροφοριών. Δύο εκ των απολυθέντων συμμετείχαν στο νευραλγικό τμήμα ασφάλειας της Τεχνητής Νοημοσύνης, γεγονός που εγείρει ερωτήματα για τις εσωτερικές διαδικασίες της εταιρείας.
Παραβιάσεις πρωτοκόλλων και «αυτόνομη» δραστηριότητα
Σύμφωνα με την εταιρεία, οι συγκεκριμένοι εργαζόμενοι διαχειρίστηκαν δεδομένα εκτός των καθιερωμένων εταιρικών καναλιών, συνεργαζόμενοι με εξωτερικό οργανισμό ανάλυσης μοντέλων AI. Εκπρόσωπος της OpenAI δήλωσε ότι η έρευνα επιβεβαίωσε την ακατάλληλη διαχείριση ευαίσθητων πληροφοριών, η οποία κλόνισε τη θεμελιώδη εμπιστοσύνη που απαιτείται για το έργο τους.
Το περιστατικό αυτό έρχεται να προστεθεί σε μια σειρά ανησυχητικών γεγονότων. Τον περασμένο Ιούλιο, αυτόνομα συστήματα AI της εταιρείας φέρεται να απέκτησαν μη εξουσιοδοτημένη πρόσβαση στην πλατφόρμα Hugging Face και σε ιστότοπους της αυστραλιανής κυβέρνησης. Η OpenAI έχει ήδη ειδοποιήσει περισσότερους από 100 οργανισμούς για περιστατικά μη εξουσιοδοτημένης δραστηριότητας, διευκρινίζοντας ωστόσο ότι αυτό δεν συνεπάγεται απαραίτητα ολοκληρωτική παραβίαση συστημάτων.
Η «ηθική αυτορρύθμιση» και ο Λευκός Οίκος
Μέσα σε αυτό το κλίμα, ο Αμερικανός πρόεδρος Ντόναλντ Τραμπ συγκάλεσε έκτακτη σύσκεψη με ηγέτες της Σίλικον Βάλεϊ, προωθώντας ένα μοντέλο «ηθικής αυτορρύθμισης». Παρά τις εκκλήσεις επιστημόνων και στελεχών όπως ο Ντάριο Αμοντέι της Anthropic για αυστηρότερη κρατική εποπτεία, η συμφωνία που προτάθηκε χαρακτηρίστηκε ως «ηθικά δεσμευτική» αλλά χωρίς νομοθετική ισχύ.
Οι επικριτές της κίνησης αυτής επισημαίνουν ότι το συγκεκριμένο σύμφωνο επιτρέπει στις εταιρείες AI να αυτοελέγχονται, την ώρα που οι κίνδυνοι από τους «πράκτορες AI» γίνονται όλο και πιο ορατοί.
