Σε μια αυστηρή παρέμβαση προχώρησε η Αντιπρόεδρος της Ευρωπαϊκής Επιτροπής και Επίτροπος Ψηφιακής Τεχνολογίας, Χένα Βίρκουνεν, κρούοντας τον κώδωνα του κινδύνου για την ταχύτητα με την οποία οι τεχνολογικοί κολοσσοί διαθέτουν νέα μοντέλα στην αγορά. Μιλώντας στη Σύνοδο Κορυφής για την Τεχνητή Νοημοσύνη στο Δουβλίνο, η Φινλανδή αξιωματούχος υποστήριξε ότι ο «άγριος» παγκόσμιος ανταγωνισμός οδηγεί σε ελλιπείς ελέγχους ασφαλείας.
Η απώλεια ελέγχου των AI Agents
Το κεντρικό σημείο ανησυχίας των Βρυξελλών εστιάζεται στους αυτόνομους «πράκτορες» (AI agents). Σύμφωνα με την κ. Βίρκουνεν, υπάρχουν ενδείξεις ότι οι εταιρείες δεν έχουν πάντα πλήρη γνώση των ενεργειών στις οποίες προβαίνουν αυτά τα συστήματα. «Οφείλουν να διατηρήσουν τον έλεγχο», τόνισε, επισημαίνοντας ότι η πολυπλοκότητα των ισχυρών μοντέλων καθιστά την αξιολόγησή τους εξαιρετικά σύνθετη.
Η Επίτροπος υπογράμμισε την ανάγκη να δίνεται επαρκής χρόνος σε ανεξάρτητους ειδικούς για τη διενέργεια δοκιμών, κάτι που φαίνεται να παρακάμπτεται στην προσπάθεια των εταιρειών να προλάβουν τον ανταγωνισμό.
Επίσημοι έλεγχοι μέσω του AI Act
Η Ευρωπαϊκή Ένωση έχει ήδη αρχίσει να αξιοποιεί τα εργαλεία που της παρέχει ο νέος Κανονισμός για την Τεχνητή Νοημοσύνη (AI Act). Στο πλαίσιο αυτό, έχουν αποσταλεί επίσημα αιτήματα παροχής πληροφοριών (Requests for Information) προς τις ηγέτιδες εταιρείες του κλάδου.
Οι αρχές ζητούν πλέον συγκεκριμένες απαντήσεις για:
- Τα εσωτερικά πρωτόκολλα ασφαλείας που εφαρμόζονται.
- Τις διαδικασίες εξωτερικής αξιολόγησης, γνωστές ως red-teaming.
- Τον τρόπο προστασίας των δικαιωμάτων πνευματικής ιδιοκτησίας.
Η κ. Βίρκουνεν κατέστησε σαφές ότι η διαφάνεια και ο ουσιαστικός έλεγχος δεν είναι προαιρετικά, αλλά θεμελιώδεις απαιτήσεις του νέου ευρωπαϊκού πλαισίου.
