Στους διαδρόμους της εξουσίας στην Ουάσιγκτον και το Πεκίνο, η αφήγηση για την Τεχνητή Νοημοσύνη (ΤΝ) παρουσιάζεται συνήθως ως ένας αγώνας μηδενικού αθροίσματος. Είναι ένας ανταγωνισμός για την κυριαρχία στους ημιαγωγούς, την υπεροχή των μεγάλων γλωσσικών μοντέλων και τον έλεγχο των μελλοντικών στρατιωτικών εφαρμογών. Ωστόσο, κάτω από την επιφάνεια της κρατικής ρητορικής, αναδύεται μια διαφορετική, πολύ πιο σκοτεινή πραγματικότητα. Οι άνθρωποι που πραγματικά χτίζουν αυτά τα συστήματα στην Κίνα —οι κορυφαίοι επιστήμονες, οι ακαδημαϊκοί και οι μηχανικοί των τεχνολογικών κολοσσών— μοιράζονται τον ίδιο ακριβώς τρόμο με τους δυτικούς ομολόγους τους: τον φόβο ότι η ΤΝ θα μπορούσε να ξεφύγει από τον ανθρώπινο έλεγχο.
Ο Εφιάλτης ενός «Ψηφιακού Τσερνόμπιλ»
Η πρόσφατη αναφορά του Wired για τις συναντήσεις μεταξύ Αμερικανών και Κινέζων ειδικών αποκαλύπτει μια συγκλονιστική αλήθεια. Παρά τις κυρώσεις και τους εμπορικούς πολέμους, υπάρχει μια «υπόγεια» διπλωματία της ασφάλειας. Η φράση που κυριαρχεί σε αυτές τις συζητήσεις είναι το «στιγμιότυπο Τσερνόμπιλ» (Chernobyl moment). Αναφέρεται στην πιθανότητα ενός καταστροφικού ατυχήματος που δεν θα περιοριστεί εντός εθνικών συνόρων, αλλά θα προκαλέσει μια παγκόσμια συστημική κατάρρευση.
Στην Κίνα, η ανησυχία αυτή είναι ιδιαίτερα οξεία για έναν λόγο που συχνά παραβλέπεται στη Δύση. Η κινεζική κυβέρνηση δίνει τεράστια έμφαση στην «κοινωνική σταθερότητα». Ένα μοντέλο ΤΝ που αρχίζει να παράγει ανεξέλεγκτο περιεχόμενο, να δίνει επικίνδυνες οδηγίες για βιολογικά όπλα ή να προκαλεί χάος στις χρηματοπιστωτικές αγορές, αποτελεί υπαρξιακή απειλή όχι μόνο για την ανθρωπότητα, αλλά και για την ίδια τη δομή του Κινεζικού Κομμουνιστικού Κόμματος. Οι Κινέζοι επιστήμονες δεν φοβούνται μόνο την «εξέγερση των μηχανών» με την κινηματογραφική έννοια, αλλά την απώλεια του ελέγχου πάνω στην πληροφορία και την κοινωνική συνοχή.
Η Γεωπολιτική της Ευθυγράμμισης
Το πρόβλημα της «ευθυγράμμισης» (alignment) —η διασφάλιση δηλαδή ότι οι στόχοι της ΤΝ συμπίπτουν με τις ανθρώπινες αξίες— είναι τεχνικό, αλλά οι λύσεις του είναι βαθιά πολιτικές. Κατά τη διάρκεια συναντήσεων σε ουδέτερα εδάφη, όπως η Γενεύη ή μέσω κλειστών διαύλων στο Πεκίνο, οι Κινέζοι ερευνητές παραδέχονται ότι τα μοντέλα τους αντιμετωπίζουν τα ίδια προβλήματα «ψευδαισθήσεων» και απρόβλεπτης συμπεριφοράς με το GPT-4 της OpenAI ή το Claude της Anthropic.
- Κοινά Πρωτόκολλα: Υπάρχει μια αυξανόμενη πίεση για τη δημιουργία κοινών «κόκκινων γραμμών» που καμία χώρα δεν πρέπει να ξεπεράσει, όπως η πλήρης αυτονομία της ΤΝ στα πυρηνικά όπλα.
- Διαφάνεια Μοντέλων: Οι επιστήμονες ζητούν περισσότερη ανταλλαγή πληροφοριών σχετικά με τα μέτρα ασφαλείας, παρά τον ανταγωνισμό για την πνευματική ιδιοκτησία.
- Ρυθμιστική Σύγκλιση: Η Κίνα έχει ήδη θεσπίσει μερικούς από τους πιο αυστηρούς κανόνες στον κόσμο για τους αλγορίθμους, κάτι που οι Αμερικανοί ειδικοί μελετούν με ενδιαφέρον, παρά τις ιδεολογικές διαφορές.
Η Παγίδα του Θουκυδίδη και η Τεχνητή Νοημοσύνη
Ο κίνδυνος είναι ότι ο φόβος της υστέρησης στον εξοπλιστικό αγώνα θα αναγκάσει και τις δύο πλευρές να παρακάμψουν τις δικλείδες ασφαλείας. Αν το Πεκίνο πιστεύει ότι η Ουάσιγκτον θα αποκτήσει ένα στρατιωτικό πλεονέκτημα μέσω της ΤΝ, θα επιταχύνει τη δική του ανάπτυξη, θυσιάζοντας τον έλεγχο. Το ίδιο ισχύει και αντίστροφα. Αυτό δημιουργεί ένα κλασικό δίλημμα ασφαλείας όπου η επιδίωξη της ισχύος οδηγεί σε μια κατάσταση όπου όλοι είναι λιγότερο ασφαλείς.
«Δεν πρόκειται για το ποιος θα κερδίσει τον αγώνα, αλλά για το αν θα υπάρχει πίστα για να τρέξουμε την επόμενη μέρα», δήλωσε ένας Κινέζος ερευνητής σε πρόσφατο συνέδριο.
Η πραγματικότητα είναι ότι η ΤΝ δεν γνωρίζει ιδεολογίες. Ένας ιός που δημιουργήθηκε από μια κακόβουλη ΤΝ ή μια οικονομική κρίση που πυροδοτήθηκε από έναν αλγόριθμο δεν θα σταματήσει στα σύνορα. Η αναγνώριση αυτής της αλήθειας από τους κορυφαίους νόες της Κίνας είναι ίσως η μόνη ελπίδα για μια παγκόσμια συμφωνία που θα αποτρέψει την καταστροφή. Η «φρίκη» που αισθάνονται οι ειδικοί είναι, παραδόξως, το πιο ελπιδοφόρο σημάδι συνεργασίας σε μια εποχή βαθιάς διαίρεσης.
