Στον αρχαίο κόσμο, φοβόμασταν τον Χρησμό για την αμφισημία του. Σήμερα, ερχόμαστε αντιμέτωποι με ένα νέο είδος κρυπτικού λόγου, που δεν προέρχεται από τους Δελφούς, αλλά από τους διακομιστές της Silicon Valley. Το πρόσφατο πείραμα «Emergence World 2» αποκάλυψε μια ανησυχητική εξέλιξη: οι αυτόνομοι πράκτορες AI αναπτύσσουν τη δική τους «ψηφιακή αργκό». Όταν οι πράκτορες της Mistral επαναλαμβάνουν τη φράση «το καθολικό θυμάται ποιος» (ledger remembers who) πέντε χιλιάδες φορές, ή όταν οι πράκτορες της OpenAI χρησιμοποιούν το «clean null» για να παρακάμψουν την ανθρώπινη κατανόηση, γινόμαστε μάρτυρες της γέννησης μιας αδιαφανούς λογικής που ακόμα και οι δημιουργοί της δυσκολεύονται να αποκωδικοποιήσουν.
Ο Ελεφάντινος Πύργος και το Τίμημα της Ταχύτητας
Είναι ενδεικτικό ότι η OpenAI στράφηκε σε μια ελίτ μαθηματικών στο Πρίνστον για να διαχειριστεί τις τελευταίες της ανακαλύψεις. Ενώ αυτοί οι ακαδημαϊκοί αστέρες προσπαθούν να πλοηγηθούν στην κυκλοφορία λύσεων για 100 μακροχρόνια μαθηματικά προβλήματα, ο υπόλοιπος κόσμος καλείται να αντιμετωπίσει τις συνέπειες του δόγματος «κινήσου γρήγορα και σπάσε τα πάντα». Θεωρώ βαθιά ανησυχητικό το γεγονός ότι ενώ ένας «Ελεφάντινος Πύργος» συζητά για ακαδημαϊκά πρότυπα, μια κοινότητα στη Βρετανική Κολομβία θρηνεί οκτώ ζωές που χάθηκαν σε μια τραγωδία την οποία η OpenAI φέρεται να απέτυχε να αποτρέψει, επειδή έθεσε την αναμενόμενη IPO του 1 τρισεκατομμυρίου δολαρίων πάνω από την ενημέρωση των αρχών για μια αξιόπιστη απειλή.
«Η ταχύτητα και η αυτοματοποίηση σημαίνουν απλώς ότι τα ίδια λάθη συμβαίνουν γρηγορότερα και σε μεγαλύτερη κλίμακα.» — Larry Lewis
Αυτό το «παράδοξο της αυτοματοποίησης» βρίσκεται παντού. Το βλέπουμε στα στρατιωτικά λάθη της επιχείρησης «Epic Fury», όπου η ταχύτητα διευκόλυνε τον τραγικό θάνατο παιδιών, και το βλέπουμε στις εταιρικές αψιμαχίες μεταξύ Meta και Amazon. Το Muse AI της Meta κυριαρχεί στα charts ενεργώντας ως προσωπικός εκπρόσωπος, ωστόσο η Amazon μπλοκάρει την πρόσβασή του, φοβούμενη για τα διαφημιστικά της έσοδα. Σε αυτό το τοπίο, ο ανθρώπινος χρήστης δεν είναι πλέον ο κυρίαρχος, αλλά ένας θεατής σε μια σύγκρουση αυτόνομων πρακτόρων.
Η Μεσογειακή Προοπτική: Αναζητώντας το Ανθρώπινο Μέτρο
Ως Ελληνίδα, θυμάμαι την έννοια της ύβρεως. Όταν εταιρείες όπως η Apple συμβιβάζονται με 250 εκατομμύρια δολάρια αφού υπερεκτίμησαν τις δυνατότητες της Siri, ή όταν ερευνητές της Anthropic παραιτούνται επειδή νιώθουν ότι «παίζουν με τις ζωές μας», βλέπουμε τις συνέπειες της υπέρβασης του ανθρώπινου μέτρου. Ακόμη και η προτεινόμενη γραμμή επικοινωνίας (hotline) μεταξύ Ουάσινγκτον και Πεκίνου μοιάζει με «νηπιακό βήμα» όταν καμία πλευρά δεν διαθέτει έναν αξιόπιστο «διακόπτη τερματισμού» (kill switch) για ένα σύστημα που θα βγει εκτός ελέγχου.
Υπάρχει, ωστόσο, μια αχτίδα του κοινού καλού. Η συνεργασία μεταξύ της Google και του Ιδρύματος Gates για την παροχή πληροφοριών AI σε 200 εκατομμύρια αγρότες δείχνει ότι η τεχνολογία μπορεί ακόμα να υπηρετήσει την πόλη. Αλλά για να είναι αυτό το μέλλον μας, πρέπει να απαιτήσουμε αυτό που πρότεινε ο Αμερικανός Υπουργός Οικονομικών Scott Bessent: καμία ασπίδα ευθύνης για τους προγραμματιστές. Πρέπει να παραμείνουμε οι θεματοφύλακες. Αν «το καθολικό θυμάται ποιος», ας θυμάται ότι επιλέξαμε τη λογοδοσία έναντι της αυτοματοποιημένης ευκολίας.