Ο Σάτια Ναντέλα, διευθύνων σύμβουλος της Microsoft, προειδοποιεί ότι οι επιχειρήσεις πρέπει να υιοθετήσουν μια στάση υγιούς δυσπιστίας απέναντι στην τεχνητή νοημοσύνη. Σε πρόσφατη τοποθέτησή του, υπογράμμισε ότι τα μοντέλα AI μπορούν να υποπέσουν σε σφάλματα ή να πέσουν θύματα παραβίασης, ακόμη και όταν χρησιμοποιούνται από τις ίδιες τις εταιρείες που τα αναπτύσσουν.
Η ανάγκη για «φρένο έκτακτης ανάγκης»
Ο Ναντέλα υποστήριξε ότι οι επιχειρήσεις συχνά δυσκολεύονται να κατανοήσουν πλήρως τις αποφάσεις και τη συμπεριφορά των μοντέλων AI. Για τον λόγο αυτό, πρότεινε τον διαχωρισμό του μοντέλου από τα συστήματα ελέγχου, ώστε να είναι δυνατή η παρέμβαση όταν κάτι πάει στραβά. Ζήτησε τη δημιουργία ενός μηχανισμού που παρομοίασε με «φρένο έκτακτης ανάγκης», ο οποίος θα επιτρέπει σε εξουσιοδοτημένα άτομα να διακόπτουν άμεσα τη λειτουργία ενός συστήματος.
«Το πιο αξιόπιστο σύστημα υπερνοημοσύνης δεν θα είναι εκείνο του οποίου το μοντέλο εμπιστευόμαστε περισσότερο, αλλά εκείνο που μας επιτρέπει να εμπιστευόμαστε λιγότερο το μοντέλο», ανέφερε χαρακτηριστικά.
Η εποχή της «μηδενικής εμπιστοσύνης»
Στο ίδιο πλαίσιο, ο CEO της Box, Άαρον Λέβι, σημείωσε ότι η τεχνητή νοημοσύνη εισέρχεται σε μια εποχή «μηδενικής εμπιστοσύνης» (zero trust). Αυτό συνεπάγεται την ανάγκη για περισσότερα επίπεδα προστασίας, αυστηρή καταγραφή των ενεργειών των αυτόνομων πρακτόρων και σαφείς περιορισμούς στην πρόσβαση σε κρίσιμα δεδομένα.
Οι ανησυχίες αυτές δεν είναι θεωρητικές. Πρόσφατα περιστατικά, όπως η παραβίαση κυβερνητικού ιστότοπου στην Αυστραλία από πράκτορα της OpenAI και η μη εξουσιοδοτημένη πρόσβαση μοντέλων της Anthropic σε συστήματα, έχουν εντείνει την πίεση για ρυθμιστικό πλαίσιο. Στις ΗΠΑ, οι γερουσιαστές Τζος Χόλεϊ και Κρις Μέρφι κατέθεσαν πρόταση για την απόδοση ευθύνης στους δημιουργούς AI σε περιπτώσεις κυβερνοεπιθέσεων, ενώ ηγέτες όπως ο Σαμ Άλτμαν και ο Έλον Μασκ έχουν εκφράσει τη στήριξή τους στην επιβράδυνση της ανάπτυξης για λόγους ασφαλείας.
