Σε μια εκτενή ανάρτηση στην πλατφόρμα X, ο Διευθύνων Σύμβουλος της Microsoft, Σάτια Ναντέλα, παρουσίασε τις απόψεις του για τους κινδύνους που ελλοχεύουν στα προηγμένα μοντέλα Τεχνητής Νοημοσύνης. Σύμφωνα με τον Ναντέλα, ο κόσμος δεν μπορεί πλέον να αποδέχεται την ΤΝ ως ένα σύνολο από «εγκιβωτισμένα μαύρα κουτιά» (nested black boxes), των οποίων τις συμβουλές και ενέργειες απλώς δεχόμαστε ή απορρίπτουμε.
Διαφάνεια και Φρένο Έκτακτης Ανάγκης
Ο Ναντέλα υποστήριξε τη δημιουργία ενός πιο διαφανούς συστήματος, όπου τα μοντέλα θα μπορούν να περιορίζονται, να παρακολουθούνται και να αφήνουν πίσω τους «αδιάβλητα και αναγνώσιμα από τον άνθρωπο αποδεικτικά στοιχεία». Η πρότασή του αφορά την υιοθέτηση μιας στάσης προληπτικής επιφυλακτικότητας.
«Πρέπει να υποθέτουμε ότι ένα μοντέλο είναι παραβιασμένο και να το περιορίζουμε από την αρχή», ανέφερε χαρακτηριστικά. Παρομοίασε αυτή την προσέγγιση με ένα «φρένο έκτακτης ανάγκης», όπου ένα εξουσιοδοτημένο άτομο θα πρέπει να έχει ανά πάσα στιγμή τη δυνατότητα να παύσει ή να τερματίσει τη λειτουργία ενός μοντέλου κατά τη διάρκεια μιας εργασίας. Σύμφωνα με τον Ναντέλα, τα πιο εξελιγμένα μοντέλα θα απαιτήσουν προηγμένες τεχνολογίες περιορισμού που η βιομηχανία πρέπει να τυποποιήσει.
Ευθυγράμμιση με τη Βιομηχανία και «Υπερ-νοημοσύνη»
Πολλές από τις εισηγήσεις του Ναντέλα ευθυγραμμίζονται με τις υπάρχουσες εκκλήσεις του κλάδου για έγκαιρη αποκάλυψη περιστατικών, ανεξάρτητους ελέγχους και επαληθεύσιμα δεδομένα. Ωστόσο, η έμφασή του στον περιορισμό φαίνεται να προχωρά περισσότερο από άλλους στον τομέα. Σε όλη την ανάρτησή του, ο Ναντέλα αναφέρεται επίσης στην ΤΝ ως «υπερ-νοημοσύνη» (super intelligence).
