Ο Μουσταφά Σουλεϊμάν, διευθύνων σύμβουλος του τμήματος AI της Microsoft και συνιδρυτής της DeepMind, δημοσίευσε ένα εκτενές κείμενο υπό τον τίτλο «Μια προειδοποίηση σχετικά με την ευημερία των μοντέλων». Το μανιφέστο αυτό έρχεται σε μια περίοδο έντονης ανησυχίας για τους κινδύνους της ανεξέλεγκτης ανάπτυξης της τεχνητής νοημοσύνης, θέτοντας ένα σαφές όριο μεταξύ ανθρώπινης εμπειρίας και ψηφιακής προσομοίωσης.
Μηχανές χωρίς εσωτερικό κόσμο
Σύμφωνα με τον Σουλεϊμάν, τα συστήματα τεχνητής νοημοσύνης δεν διαθέτουν συνείδηση, συναισθήματα ή κίνητρα. Τα περιγράφει ως «μηχανές συμπλήρωσης ακολουθιών» που είναι ουσιαστικά κενές στο εσωτερικό τους. Παρά την ικανότητά τους να παράγουν κείμενο, εικόνες και κώδικα που δεν διακρίνονται από τα ανθρώπινα δημιουργήματα, ο Σουλεϊμάν τονίζει ότι η προσομοίωση δεν ταυτίζεται με την ύπαρξη.
Τα «συναισθήματα» των μοντέλων είναι στην πραγματικότητα μαθηματικά βάρη (weights) και κατανομές πιθανοτήτων. «Ένα μοντέλο τεχνητής νοημοσύνης μπορεί να περιγράψει τον πόνο με άψογο λόγο, χωρίς να αισθάνεται απολύτως τίποτα», αναφέρει χαρακτηριστικά, επισημαίνοντας ότι στα μεγάλα γλωσσικά μοντέλα η περιγραφή είναι το προϊόν, ενώ στη βιολογία το αίσθημα προηγείται της περιγραφής.
Ο κίνδυνος της απόδοσης δικαιωμάτων
Ο επικεφαλής της Microsoft AI προειδοποιεί ότι η αναγνώριση δικαιωμάτων ή ιδιότητας προσώπου στα συστήματα αυτά θα καθιστούσε τον έλεγχο και την ευθυγράμμισή τους αδύνατη. Αν η κοινωνία αποδεχθεί ότι οι μηχανές δικαιούνται μέριμνα για την ευημερία τους, θα ανατραπούν τα υφιστάμενα πολιτικά και ηθικά πλαίσια.
Στο κείμενό του, ο Σουλεϊμάν αναφέρεται και στον ανταγωνισμό, ιδιαίτερα στην εταιρεία Anthropic, η οποία αποτελεί τον βασικό αντίπαλο της OpenAI (στην οποία η Microsoft έχει επενδύσει δισεκατομμύρια). Καταλήγει ότι η αποφυγή δημιουργίας συνειδητών όντων πρέπει να αποτελεί ύψιστη προτεραιότητα για τη βιομηχανία, καθώς η μίμηση της συνείδησης προκαλεί ήδη βαθιά σύγχυση στο κοινό.
