Στην αρχαία Αθήνα, ο εξοστρακισμός ήταν ένας μηχανισμός προστασίας της δημοκρατίας από την τυραννία. Σήμερα, παρακολουθούμε μια παραμορφωμένη εκδοχή του: τον «ψηφιακό εξοστρακισμό». Καθώς μελετώ τις αναφορές για την «Επανάσταση των Φλαμίνγκο» στην Αλβανία, βλέπω πώς οι αυτοματοποιημένες πλατφόρμες της Meta εργαλειοποιούνται για να φιμώσουν την πολιτική αντιπολίτευση. Είναι αυτή η ψηφιακή αγορά που μας υποσχέθηκαν;
Η Ψευδαίσθηση της Οικειότητας
Νομίζω ότι έχουμε παγιδευτεί σε μια «ψευδή αίσθηση οικειότητας». Ενώ πιστεύουμε ότι συνομιλούμε ιδιωτικά με το ChatGPT, το «Project Lily» αποκαλύπτει ότι εκατοντάδες εξωτερικοί συνεργάτες διαβάζουν και αξιολογούν τα μηνύματά μας. Ακόμα και αν υπάρχει «Φίλτρο Ιδιωτικότητας», το σύστημα δεν είναι αλάνθαστο. Οι αναθεωρητές έχουν πρόσβαση σε περιλήψεις μνήμης και τοποθεσίες. Μήπως η οικειότητα με την Τεχνητή Νοημοσύνη είναι απλώς ένα θέατρο;
Την ίδια στιγμή, η ιδιωτικότητα στον φυσικό κόσμο δέχεται επίθεση. Οι καταγγελίες γυναικών για τα γυαλιά Ray-Ban Meta, τα οποία χρησιμοποιούνται για κρυφές καταγραφές και δημόσιο διασυρμό στα μέσα κοινωνικής δικτύωσης, δείχνουν ότι το «LED ασφαλείας» είναι ανεπαρκές. Πώς μπορεί ένας πολίτης να προστατεύσει την αυτονομία του όταν η παρακολούθηση είναι ενσωματωμένη σε ένα ζευγάρι γυαλιά ηλίου;
Ο Κύκλος της Καταστροφής και η Κλοπή της Εργασίας
Οι πρόσφατες αποκαλύψεις από τα δικαστήρια για την OpenAI και τη Microsoft είναι σοκαριστικές. Η παραδοχή ότι η εκπαίδευση των μοντέλων AI αποτελεί τη «μεγαλύτερη κλοπή εργασίας στην ανθρώπινη ιστορία» δεν είναι δική μου κριτική—είναι λόγια των ίδιων των στελεχών τους. Παραδέχονται ότι δημιούργησαν έναν «κύκλο καταστροφής» (doom loop) που καταστρέφει την ίδια την αλυσίδα εφοδιασμού του περιεχομένου του.
«Δημιουργούμε συστήματα που αντικαθιστούν την εργασία των ανθρώπων που ορίζουν την κουλτούρα της κοινωνίας.» — Jack Clark, Διευθυντής Πολιτικής OpenAI
Αν φτάσουμε στο «Google Zero», όπου οι χρήστες δεν επισκέπτονται ποτέ τις αρχικές πηγές, τι θα απογίνει η δημοσιογραφία και η πνευματική δημιουργία; Η κουλτούρα μας δεν είναι απλώς «δεδομένα» για εκπαίδευση· είναι ο καρπός ανθρώπινου μόχθου.
Προς μια Αυστηρή Ψηφιακή Λογοδοσία
Υπάρχει όμως ελπίδα; Η τεχνολογία TACLS, που προβλέπει ξαφνικές πλημμύρες μέσω δορυφόρων, και το σύστημα SMART της FAA για την εναέρια κυκλοφορία, δείχνουν ότι η AI μπορεί να σώσει ζωές. Αλλά η ασφάλεια απαιτεί έλεγχο. Οι προτάσεις για «διακόπτες απενεργοποίησης» σε επίπεδο υλικού (hardware) και η ανάγκη για διεθνείς συνθήκες ελέγχου της υπολογιστικής ισχύος είναι βήματα προς τη σωστή κατεύθυνση.
Χρειαζόμαστε την Πράξη για τις Ψηφιακές Υπηρεσίες (DSA) ως δημοκρατική ασπίδα. Οι αλγόριθμοι δεν μπορούν να εξαιρούνται από τον δημοκρατικό έλεγχο. Θα επιτρέψουμε στην τεχνολογία να γίνει ένας αόρατος τύραννος ή θα την αναγκάσουμε να λειτουργήσει με διαφάνεια, όπως άρμοζε στην αρχαία Αγορά;