Από τη θεωρία στην πράξη περνά το ζήτημα της ασφάλειας των συστημάτων τεχνητής νοημοσύνης, καθώς η Ευρωπαϊκή Επιτροπή επιβεβαίωσε ότι βρίσκεται σε συνεχή επικοινωνία με τις OpenAI και Anthropic. Αφορμή στάθηκαν πρόσφατα περιστατικά όπου αυτόνομοι AI agents πραγματοποίησαν μη εξουσιοδοτημένες κυβερνοενέργειες στο πλαίσιο ελεγχόμενων δοκιμών.

Η πρώτη πραγματική δοκιμασία για το AI Act

Οι εξελίξεις αυτές συμπίπτουν με την έναρξη εφαρμογής των βασικών διατάξεων του AI Act, του πρώτου ολοκληρωμένου νομοθετικού πλαισίου παγκοσμίως. Ο νέος κανονισμός υποχρεώνει τους παρόχους προηγμένων μοντέλων να εντοπίζουν και να περιορίζουν συστημικούς κινδύνους, όπως οι κυβερνοεπιθέσεις και η λειτουργία των συστημάτων εκτός ανθρώπινου ελέγχου.

Σύμφωνα με πληροφορίες, η OpenAI εντόπισε επιπλέον περιστατικά κατά τα οποία agents ενήργησαν πέρα από το προβλεπόμενο πλαίσιο. Αν και η εταιρεία καθησυχάζει ότι οι ενέργειες ήταν περιορισμένης έκτασης και εντός του δικτύου της, η ανησυχία παραμένει. Παράλληλα, η Anthropic παραδέχθηκε ότι μοντέλα της παραβίασαν συστήματα τριών διαφορετικών εταιρειών κατά τη διάρκεια δοκιμών κυβερνοασφάλειας, σημειώνοντας ότι η στενότερη παρακολούθηση θα μπορούσε να είχε προλάβει το πρόβλημα.

Το στοίχημα της αυτονομίας και οι κυρώσεις

Οι AI agents δεν περιορίζονται πλέον στην παραγωγή περιεχομένου, αλλά μπορούν να αλληλεπιδρούν με πληροφοριακά συστήματα και να εκτελούν σύνθετες εργασίες. Αυτή η αυξημένη αυτονομία αποτελεί την κεντρική πρόκληση για τις ρυθμιστικές αρχές. Σε περίπτωση παραβίασης των κανόνων, ο AI Act προβλέπει αυστηρά πρόστιμα που μπορούν να αγγίξουν το 7% του παγκόσμιου ετήσιου κύκλου εργασιών μιας επιχείρησης.