Η OpenAI εφαρμόζει πλέον «συνεντεύξεις αποστολής» για να διασφαλίσει ότι το προσωπικό της ευθυγραμμίζεται με τον στόχο της γενικής τεχνητής νοημοσύνης (AGI) που θα ωφελεί όλη την ανθρωπότητα. Πρόκειται για ένα υψηλό φρόνημα, ωστόσο η τρέχουσα οικονομική πραγματικότητα αφηγείται μια διαφορετική ιστορία. Σύμφωνα με τον Δείκτη Δισεκατομμυριούχων του Bloomberg, οι κολοσσοί της τεχνολογίας κατέχουν πλέον μια συνδυασμένη περιουσία 4,6 τρισεκατομμυρίων δολαρίων, ενώ όσοι δημιούργησαν πλούτο εκτός του τεχνολογικού τομέα έχασαν συνολικά 62 δισεκατομμύρια δολάρια κατά τους πρώτους εννέα μήνες του έτους. Αναρωτιέται κανείς αν η «αποστολή» περιλαμβάνει αυτή την τρομακτική συγκέντρωση πλούτου.
Στο όνομα της προόδου, καλούμαστε να παραβλέψουμε τις ρωγμές στα θεμέλια. Στο Τέξας, το τίμημα της διαφάνειας σχετικά με την επιτήρηση μέσω AI έφτασε τα 2,3 εκατομμύρια δολάρια — ένα ποσό που ζήτησαν οι δημοτικές αρχές για να ικανοποιήσουν ένα αίτημα δημοσίων εγγράφων σχετικά με την αποτελεσματικότητα και την κατάχρηση των αυτόματων αναγνωστών πινακίδων κυκλοφορίας. Εν τω μεταξύ, ερευνητές αποκάλυψαν ότι οι ίδιοι οι «διάδρομοι» των νέων αρχιτεκτονικών AI μας —το Πρωτόκολλο Model Context (MCP)— παραμένουν αφύλακτοι. Τρωτά σημεία σε αυτά τα συστήματα έχουν δοκιμαστεί σε οργανισμούς που κυμαίνονται από χρηματοπιστωτικούς κολοσσούς όπως η JP Morgan Chase έως τις κυβερνήσεις των ΗΠΑ και της Γαλλίας, αποκαλύπτοντας ότι κακόβουλες οδηγίες μπορούν να εξαπλωθούν σε δίκτυα πρακτόρων σαν φωτιά σε ξύλινη σκαλωσιά.
Στην Ελλάδα και την Κύπρο, διαμορφώνεται μια διαφορετική αφήγηση. Ακούμε για «Αξιόπιστη AI» και νομοθετικά πλαίσια που έχουν σχεδιαστεί για να προστατεύουν την «ψυχή» από την αλγοριθμική διαχείριση. Η Υπουργός Νίκη Κεραμέως κινείται προς την επιβολή ανθρώπινης εποπτείας για τους εργαζόμενους σε πλατφόρμες, ενώ ο Δημήτρης Σκουρίδης περιγράφει ένα μοντέλο «Human+» για το 2030, συνδυάζοντας την ανθρώπινη κρίση με την αναλυτική ισχύ της AI. Αλλά πώς μπορούμε να εμπιστευτούμε αυτούς τους ψηφιακούς διαδρόμους όταν τα υποκείμενα πρωτόκολλα στερούνται των αρχών «Zero Trust» και εξειδικευμένοι πράκτορες συνδέονται με ευαίσθητες βάσεις δεδομένων χωρίς ισχυρή εξουσιοδότηση;
Μας λένε ότι η AI θα βελτιώσει τη ζωή μας, ωστόσο τη βλέπουμε να αυτοματοποιεί τις πιο προσωπικές εργασίες. Το Gemini της Google ενδέχεται σύντομα να καλεί τους γονείς μας για να αναφέρει καθυστερήσεις, και νεοφυείς επιχειρήσεις στη Γιούτα αναπτύσσουν AI για την έκδοση συνταγών για ακμή με περιοδική μόνο επίβλεψη από γιατρό. Όπως προειδοποιεί η ειδικός σε θέματα ανθρώπινης συμπεριφοράς Vanessa Van Edwards, πληρώνουμε το «τιμολόγιο της αποξένωσης» με δόσεις. Δίνουμε προτεραιότητα στην ικανότητα και την ενασχόληση έναντι της ζεστασιάς και της πραγματικής παρουσίας που η AI δεν μπορεί να κλιμακώσει.
Θα συνεχίσουμε να αποδεχόμαστε αυτούς τους συστημικούς κινδύνους για ένα μέλλον όπου ο πλούτος συγκεντρώνεται στα χέρια λίγων, ή ήρθε η ώρα να απαιτήσουμε έναν Νόμο που θα δίνει προτεραιότητα στην ανθρώπινη αξιοπρέπεια έναντι της αλγοριθμικής αποτελεσματικότητας; Ποιον, ακριβώς, προορίζεται να υπηρετήσει αυτή η πρόοδος;
