Η Ευρωπαϊκή Επιτροπή εξέφρασε έντονες ανησυχίες σχετικά με την ικανότητα των εταιρειών τεχνητής νοημοσύνης να διατηρήσουν τον έλεγχο των συστημάτων τους. Κατά τη διάρκεια της διεθνούς Συνόδου Κορυφής για την Τεχνητή Νοημοσύνη στο Δουβλίνο, η Χένα Βίρκουνεν, Εκτελεστική αντιπρόεδρος της Επιτροπής για την τεχνολογική κυριαρχία, την ασφάλεια και τη δημοκρατία, υπογράμμισε τους κινδύνους που απορρέουν από τον «αμείλικτο ανταγωνισμό» στον κλάδο.
Ο κίνδυνος της ταχύτητας έναντι της ασφάλειας
Σύμφωνα με την κ. Βίρκουνεν, ο παγκόσμιος ανταγωνισμός είναι τόσο έντονος που οι εταιρείες φαίνεται να μην αφιερώνουν τον απαραίτητο χρόνο και τους πόρους για τον ενδελεχή έλεγχο των μοντέλων τους. Η Επίτροπος σημείωσε ότι η αυξανόμενη αποτελεσματικότητα των σύγχρονων μοντέλων καθιστά την αξιολόγησή τους εξαιρετικά δύσκολη, καθιστώντας ζωτικής σημασίας την παροχή χρόνου στους ειδικούς για δοκιμές.
Αυτόνομοι πράκτορες και έλλειψη εποπτείας
Ένα ιδιαίτερα ανησυχητικό σημείο που θίχτηκε είναι η δράση των «πρακτόρων» (agents) της τεχνητής νοημοσύνης. Η κ. Βίρκουνεν ανέφερε περιστατικά που δείχνουν ότι οι εταιρείες δεν έχουν πάντα πλήρη γνώση των ενεργειών που αναλαμβάνουν αυτά τα αυτόνομα συστήματα. «Οφείλουν να μπορούν να διατηρήσουν τον έλεγχο των συστημάτων αυτών», τόνισε χαρακτηριστικά.
Ρυθμιστική παρέμβαση μέσω του AI Act
Η Ευρωπαϊκή Ένωση έχει ήδη ενεργοποιήσει τον κανονισμό AI Act από το καλοκαίρι, ο οποίος επιβάλλει τον έλεγχο των συστημάτων ως ρητή απαίτηση. Στο πλαίσιο αυτό, οι υπηρεσίες της Επιτροπής έχουν ήδη απευθύνει αιτήματα παροχής πληροφοριών προς τις κορυφαίες εταιρείες του τομέα, ζητώντας λεπτομέρειες για:
- Τα εφαρμοζόμενα μέτρα ασφαλείας.
- Τις διαδικασίες εξωτερικής αξιολόγησης.
- Τον σεβασμό των πνευματικών δικαιωμάτων.
