Σε μια κίνηση που υπογραμμίζει τις αυξανόμενες ανησυχίες για την ασφάλεια της τεχνητής νοημοσύνης, ο διευθύνων σύμβουλος της Microsoft, Σάτια Ναντέλα, ζήτησε την ενσωμάτωση ενός «φρένου έκτακτης ανάγκης» στα προηγμένα συστήματα ΑΙ. Η πρόταση αυτή αφορά έναν μηχανισμό που θα επιτρέπει σε εξουσιοδοτημένα άτομα να διακόπτουν ή να απενεργοποιούν πλήρως ένα μοντέλο την ώρα που εκτελεί μια εργασία.
Ασφάλεια μέσω Ντετερμινιστικού Σχεδιασμού
Μέσω ανάρτησής του στην πλατφόρμα X, ο Ναντέλα τόνισε την ανάγκη να περιβάλλονται τα «μη ντετερμινιστικά» μοντέλα από έναν ισχυρό, ντετερμινιστικό σχεδιασμό συστημάτων και αξιόπιστες διαδικασίες λειτουργίας. Σύμφωνα με τον ίδιο, ο κλάδος πρέπει να θεσπίσει νέα πρότυπα όπου τα υπάρχοντα αποδεικνύονται ανεπαρκή, αντιμετωπίζοντας ακόμα και τα πιο προηγμένα μοντέλα —είτε κλειστού είτε ανοικτού κώδικα— ως πιθανές «εσωτερικές απειλές».
Αρχές Παρατηρησιμότητας και Εμπιστοσύνης
Ο επικεφαλής της Microsoft παρουσίασε ένα πλαίσιο που βασίζεται στις «αρχές της παρατηρησιμότητας», οι οποίες περιλαμβάνουν:
- Ποικιλομορφία των μοντέλων και συνεχή δοκιμή των συστημάτων.
- Καταγραφή ενεργειών σε μορφή κατανοητή από τον άνθρωπο.
- Ανεξάρτητους ελέγχους και μηχανισμούς περιορισμού.
- Υποχρεωτική γνωστοποίηση περιστατικών ασφαλείας.
«Το πιο αξιόπιστο σύστημα Υπερνοημοσύνης δεν θα είναι εκείνο του οποίου το μοντέλο εμπιστευόμαστε περισσότερο», σημείωσε χαρακτηριστικά. «Θα είναι εκείνο που μας επιτρέπει να εμπιστευόμαστε το μοντέλο όσο το δυνατόν λιγότερο».
Πολιτικές και Ερευνητικές Αντιδράσεις
Οι δηλώσεις αυτές έρχονται σε μια περίοδο έντονων προειδοποιήσεων. Ερευνητές της Anthropic και της OpenAI έχουν εκφράσει φόβους για τους κινδύνους της τεχνολογίας, με ορισμένους να κάνουν λόγο ακόμα και για πιθανότητα αφανισμού της ανθρωπότητας. Στον αντίποδα, ο Ντόναλντ Τραμπ έχει απορρίψει αυτούς τους κινδύνους, δίνοντας έμφαση στον ανταγωνισμό με την Κίνα και ανακοινώνοντας τη δημιουργία μιας «Δύναμης Τεχνητής Νοημοσύνης» (AI Force) για τη διευκόλυνση του κλάδου και την αντιμετώπιση κακόβουλων παραγόντων.
