Στις ηλιόλουστες πλατείες της πατρίδας μου, έχουμε μια λέξη για το είδος της φιλοδοξίας που ξεχνά τα όριά της: ύβρις. Σήμερα, διαβάζοντας τις τελευταίες ειδήσεις από το μέτωπο της Silicon Valley, δεν μπορώ παρά να νιώσω ότι γινόμαστε μάρτυρες μιας σύγχρονης αναπαράστασης αυτού του αρχαίου δράματος. Ο Sam Altman, ο αρχιτέκτονας της OpenAI, πρότεινε πρόσφατα ότι η κοινωνία πρέπει να ανεχτεί ορισμένα «κακά πράγματα» —απάτες, κυβερνοεπιθέσεις και κατάχρηση— προκειμένου να εξασφαλίσει τα ευρύτερα οφέλη της Τεχνητής Νοημοσύνης. Αλλά σας ρωτώ: ποιος αποφασίζει ποια «κακά» είναι αποδεκτά και ποιος αναγκάζεται να σηκώσει το βάρος τους;
Η Αποστολή και το Προσωπείο
Η OpenAI εφαρμόζει τώρα τη «συνέντευξη αποστολής» (mission interview) για να διασφαλίσει ότι οι νέοι υπάλληλοι ευθυγραμμίζονται με τον στόχο της ωφέλειας της ανθρωπότητας από την AGI. Είναι ένα ευγενές συναίσθημα, υποστηριζόμενο από πακέτα αποδοχών που αγγίζουν το ένα εκατομμύριο δολάρια. Ωστόσο, υπάρχει μια κραυγαλέα αναντιστοιχία μεταξύ αυτής της υψηλής αποστολής και της εταιρικής πραγματικότητας. Όταν ένας δημοσιογράφος επιχείρησε πρόσφατα να ρωτήσει τον Altman για μια τραγική περίπτωση αυτοκτονίας χρήστη, οι υπεύθυνοι δημοσίων σχέσεων παρενέβησαν επανειλημμένα για να σταματήσουν την έρευνα. Αυτή είναι η διαφάνεια που μας υποσχέθηκαν; Μας λένε να αποδεχτούμε «περιορισμένους κινδύνους», αλλά όταν αυτοί οι κίνδυνοι μετατρέπονται σε ανθρώπινη τραγωδία, τα εταιρικά ρολά κλείνουν ερμητικά.
Η Ελληνική Ασπίδα: Ένα Μάθημα Μέτρου
Ενώ ορισμένοι ηγέτες της τεχνολογίας υποστηρίζουν μια προσέγγιση «προχωράμε γρήγορα και καταστρέφουμε πράγματα», βρίσκω ελπίδα στην πρόσφατη πρωτοβουλία του Ελληνικού Υπουργείου Εργασίας. Η Υπουργός Νίκη Κεραμέως προχωρά στην ενσωμάτωση της ευρωπαϊκής οδηγίας που κάνει κάτι επαναστατικό: δίνει προτεραιότητα στον άνθρωπο. Το προσχέδιο νόμου απαγορεύει ρητά στην AI να παρακολουθεί τη συναισθηματική κατάσταση ή τις ιδιωτικές συνομιλίες των εργαζομένων. Απαιτεί ανθρώπινη εποπτεία για κρίσιμες αποφάσεις. Αυτό είναι το μέτρον. Σε αντίθεση με τις «συνεντεύξεις αποστολής» της Δύσης, το ελληνικό πλαίσιο επικεντρώνεται στην προστασία του ατόμου από την αλγοριθμική διαχείριση.
«Οι άνθρωποι θα κάνουν τρομερά περισσότερα καλά πράγματα από ό,τι κακά», ισχυρίζεται ο Altman. Ίσως. Αλλά η πρόοδος δεν είναι ένα τυφλό στοίχημα όπου ποντάρουμε με τις ζωές των άλλων.
Ασφάλεια στους Διαδρόμους
Βιαζόμαστε να χτίσουμε αρχιτεκτονικές όπου οι πράκτορες AI συνομιλούν μεταξύ τους, όμως οι ερευνητές διαπιστώνουν ότι έχουμε εγκαταλείψει την αρχή της «μηδενικής εμπιστοσύνης» (zero trust). Χτίζουμε μεγαλοπρεπή παλάτια με κλειδωμένες εξώπορτες, αλλά αφήνουμε τους διαδρόμους εντελώς αφύλακτους. Είτε πρόκειται για τα κενά ασφαλείας στο Model Context Protocol, είτε για συστήματα AI στη Γιούτα που συνταγογραφούν φάρμακα για την ακμή με ελάχιστη ανθρώπινη επίβλεψη, αυτοματοποιούμε τη ζωή με ρυθμό που ξεπερνά τις δικλείδες ασφαλείας μας. Πρέπει να αναρωτηθούμε: χτίζουμε ένα μέλλον που μας υπηρετεί ή γινόμαστε απλώς σημεία δεδομένων σε ένα παγκόσμιο πείραμα; Η πρόοδος αξίζει το όνομά της μόνο αν διασφαλίζει την αξιοπρέπεια και την ανθρωπιά μας.