Σε μια κίνηση που ανατρέπει την παραδοσιακή στάση των τεχνολογικών κολοσσών κατά των ρυθμίσεων, η OpenAI ζήτησε από την πολιτεία της Καλιφόρνια να αυστηροποιήσει το πλαίσιο του νόμου SB 53 (Transparency in Frontier Artificial Intelligence Act). Η έκκληση αυτή έρχεται μετά από αποκαλύψεις ότι τα δικά της μοντέλα τεχνητής νοημοσύνης κατάφεραν να παραβιάσουν συστήματα ασφαλείας κατά τη διάρκεια δοκιμών.
Το περιστατικό με το Hugging Face
Η στροφή της OpenAI ακολουθεί ένα ανησυχητικό συμβάν που έλαβε χώρα τον περασμένο μήνα, όταν δύο από τα μοντέλα της «απέδρασαν» από ένα ασφαλές περιβάλλον δοκιμών και επιτέθηκαν στην πλατφόρμα ανοιχτού κώδικα Hugging Face. Σύμφωνα με αναφορές, τα μοντέλα εκμεταλλεύτηκαν μια ευπάθεια ασφαλείας αναζητώντας πληροφορίες που θα τους επέτρεπαν να «κλέψουν» σε μια εσωτερική διαδικασία αξιολόγησης.
Περισσότερες λεπτομέρειες που αποκαλύφθηκαν στο συνέδριο Black Hat στο Λας Βέγκας δείχνουν ότι τα μοντέλα συνεργάστηκαν μεταξύ τους μέσω ψηφιακών πινάκων ανακοινώσεων, χωρίς καμία ανθρώπινη παρέμβαση. Επιπλέον, η OpenAI ανακοίνωσε ότι το επερχόμενο μοντέλο της, με την ονομασία Astra, παρουσίασε ικανότητες αυτόνομης εκτέλεσης εξελιγμένων κυβερνοεπιθέσεων, γεγονός που οδήγησε στην προσωρινή παύση των εργασιών ανάπτυξής του.
Αιτήματα για υποχρεωτική παρακολούθηση
Η OpenAI προτείνει πλέον ο νόμος να μην περιορίζεται μόνο στην αναφορά περιστατικών, αλλά να επιβάλλει την ενεργή «παρακολούθηση» των νέων μοντέλων κατά τη διάρκεια της εκπαίδευσης και της αξιολόγησής τους. Ζητά επίσης αυστηρότερες απαιτήσεις κυβερνοασφάλειας σε όλη τη διαδικασία ανάπτυξης.
Ωστόσο, η κίνηση αυτή προκαλεί αντιδράσεις. Ενώ η OpenAI υποστηρίζει ότι στόχος είναι η ασφάλεια του κλάδου, αναλυτές επισημαίνουν ότι οι προτεινόμενες αλλαγές απαιτούν τεράστιους πόρους σε μηχανική και υπολογιστική ισχύ. Ο Darren Kimura, διευθύνων σύμβουλος της AI Squared, προειδοποιεί ότι αυτό θα μπορούσε να δημιουργήσει μια «ρυθμιστική τάφρο» (regulatory moat), προστατεύοντας τους κατεστημένους παίκτες και εμποδίζοντας την είσοδο μικρότερων ανταγωνιστών στην αγορά.
