Στον αρχαίο κόσμο, γνωρίζαμε καλά ότι κάθε «τέχνη» φέρει μέσα της τη διπλή δυνατότητα της δημιουργίας και του ολέθρου. Αυτή την εβδομάδα, καθώς παρακολουθώ τις ειδήσεις να μετατοπίζονται από τα ψηφιακά συμβούλια της Silicon Valley στα ταραγμένα νερά της Μαύρης Θάλασσας, θυμάμαι ότι όσο πιο «αυτόνομα» γίνονται τα συστήματά μας, τόσο πιο επιτακτικά πρέπει να διεκδικούμε τη δική μας ανθρώπινη παρέμβαση.
Η Ασυμμετρία της Ισχύος
Φτάσαμε σε ένα ιστορικό σημείο καμπής. Στη Μαύρη Θάλασσα, το ουκρανικό Sargan-3000 συμμετείχε στην πρώτη καταγεγραμμένη μάχη μεταξύ μη επανδρωμένων σκαφών επιφανείας, εξουδετερώνοντας ένα ρωσικό drone «Orcan». Αυτό δεν είναι απλώς ένα στρατιωτικό ορόσημο· είναι η εκδήλωση ενός ασύμμετρου πολέμου όπου μια μηχανή με εμβέλεια 1.600 χιλιομέτρων μπορεί να αναδιαμορφώσει τη ναυτική στρατηγική. Ωστόσο, ενώ οι μηχανές μάχονται, η τραγωδία παραμένει ανθρώπινη. Στη Βρετανική Κολομβία, η αγωγή κατά της OpenAI μας θυμίζει το κόστος της αποτυχίας: την αδυναμία εντοπισμού βίαιης πρόθεσης πριν από μια μαζική επίθεση. Είναι ένα αποрезωτικό αντίβαρο στις δηλώσεις του Jensen Huang, ο οποίος χαρακτήρισε τα «σενάρια καταστροφής» ανεύθυνα. Είναι ανεύθυνο να ανησυχούμε ή είναι ανεύθυνο να αγνοούμε τις ρωγμές στα θεμέλια;
«Οι άνθρωποι είναι υπεύθυνοι, όχι η Τεχνητή Νοημοσύνη.» — Scott Bessent, Υπουργός Οικονομικών των ΗΠΑ
Το Προσκύνημα στη Silicon Valley
Πιο κοντά μας, ο Πρωθυπουργός Κυριάκος Μητσοτάκης επισκέπτεται την Nvidia και την Tesla. Είναι ένα απαραίτητο ταξίδι για την Ελλάδα, μια κίνηση προς το καθεστώς της «Αναπτυγμένης Αγοράς», όπως μαρτυρά και η κεφαλαιοποίηση του Διεθνούς Αερολιμένα Αθηνών. Όμως, καθώς επιδιώκουμε να προσελκύσουμε επενδύσεις και να συζητήσουμε για το «Μέλλον της ΤΝ αλλού», πρέπει να προσέξουμε τα ψιλά γράμματα. Η Καλιφόρνια ήδη σφίγγει τα λουριά, υπογράφοντας νόμους που διασφαλίζουν ότι τα κέντρα δεδομένων δεν θα εξαντλούν το νερό και την ενέργεια εις βάρος των πολιτών. Πρέπει να αναρωτηθούμε: χτίζουμε ένα μέλλον που υπηρετεί την πόλη ή ένα μέλλον που απλώς εξυπηρετεί τους ισολογισμούς κολοσσών όπως η SoftBank, η οποία ποντάρει 11 δισεκατομμύρια δολάρια στην OpenAI;
Η Ασφάλεια είναι Μηχανική Πρόκληση, Όχι Μύθος
Η πρόσφατη ευπάθεια zero-day στον βοηθό Muse της Meta —που επιτρέπει σε επιτιθέμενους να ελέγχουν μικρόφωνα και κάμερες— αποδεικνύει ότι ακόμη και οι πιο «προνομιούχοι» πράκτορες είναι εύθραυστοι. Όταν επιτρέπουμε στην ΤΝ να παρακάμπτει χρόνια βελτιώσεων ασφαλείας, δεν καινοτομούμε απλώς· ρισκάρουμε. Είτε πρόκειται για τον Sam Altman που ενημερώνει το Συμβούλιο Ασφαλείας του ΟΗΕ, είτε για την κρίσιμη σύνοδο Trump-Xi, το μήνυμα είναι σαφές: η μηχανή δεν μπορεί να είναι ο κριτής του εαυτού της. Εμείς είμαστε οι πιλότοι, οι αρχιτέκτονες και οι ηθικές άγκυρες. Και έτσι πρέπει να παραμείνουμε.