Στην αυγή της τρίτης δεκαετίας του 21ου αιώνα, η Τεχνητή Νοημοσύνη (AI) δεν περιορίζεται πλέον στην επίλυση σύνθετων μαθηματικών προβλημάτων ή στη συγγραφή κωδικών. Έχει αρχίσει να εισέρχεται σε ένα πεδίο που μέχρι πρότινος θεωρούνταν το τελευταίο οχυρό της ανθρώπινης μοναδικότητας: το συναίσθημα. Η «Συναισθηματική Υπολογιστική» (Affective Computing) είναι ένας κλάδος που αναπτύσσεται ραγδαία, επιτρέποντας στις μηχανές όχι μόνο να αναγνωρίζουν, αλλά και να προσομοιώνουν και να επηρεάζουν την ανθρώπινη ψυχολογική κατάσταση. Το ερώτημα που τίθεται πλέον επιτακτικά δεν είναι αν το AI μπορεί να μας καταλάβει, αλλά σε ποιο βαθμό μπορεί να μας «χακάρει».

Η Τεχνολογία πίσω από την Ψηφιακή Ενσυναίσθηση

Η ικανότητα των συστημάτων AI να αναλύουν τα συναισθήματα βασίζεται στη συγκέντρωση και επεξεργασία τεράστιου όγκου βιομετρικών δεδομένων. Μέσω της ανάλυσης των εκφράσεων του προσώπου (facial coding), του τόνου της φωνής, του ρυθμού της αναπνοής, ακόμα και των μικρο-κινήσεων των ματιών, οι αλγόριθμοι μπορούν να διαγνώσουν την κατάσταση ενός ατόμου με ακρίβεια που συχνά ξεπερνά εκείνη ενός έμπειρου ψυχολόγου. Αυτά τα συστήματα εκπαιδεύονται σε δισεκατομμύρια σημεία δεδομένων, μαθαίνοντας να συσχετίζουν συγκεκριμένα πρότυπα συμπεριφοράς με συναισθήματα όπως η χαρά, ο θυμός, η απογοήτευση ή η κόπωση.

Ωστόσο, η τεχνολογία αυτή δεν σταματά στην απλή παρατήρηση. Το AI χρησιμοποιείται πλέον για να δημιουργήσει «συναισθηματικούς βρόχους ανάδρασης». Για παράδειγμα, οι ψηφιακοί βοηθοί μπορούν να προσαρμόσουν τον τόνο τους για να ηρεμήσουν έναν εκνευρισμένο χρήστη, ή οι πλατφόρμες κοινωνικής δικτύωσης μπορούν να προβάλλουν περιεχόμενο που μεγιστοποιεί την εμπλοκή (engagement) εκμεταλλευόμενες τις συναισθηματικές ευάλωτες στιγμές μας. Αυτό που ξεκίνησε ως εργαλείο βελτίωσης της εμπειρίας του χρήστη, μετατρέπεται σταδιακά σε ένα εργαλείο αόρατης καθοδήγησης.

Η Εμπορευματοποίηση του Ψυχισμού

Οι επιχειρήσεις έχουν αντιληφθεί πλήρως την αξία της συναισθηματικής ανάλυσης. Στο μάρκετινγκ, η χρήση του AI για τη μέτρηση των συναισθηματικών αντιδράσεων σε διαφημίσεις επιτρέπει στις εταιρείες να «ρυθμίζουν» τα μηνύματά τους ώστε να παρακάμπτουν τη λογική αντίσταση του καταναλωτή και να απευθύνονται απευθείας στο υποσυνείδητο. Όταν ένα σύστημα γνωρίζει πότε αισθάνεστε μοναξιά ή πότε είστε επιρρεπείς σε μια παρορμητική αγορά λόγω άγχους, η δύναμη που αποκτά πάνω σας είναι τρομακτική.

Επιπλέον, στον εργασιακό χώρο, συστήματα AI χρησιμοποιούνται ήδη για την αξιολόγηση της ικανοποίησης των εργαζομένων ή ακόμα και για την πρόβλεψη παραιτήσεων. Παρόλο που αυτό παρουσιάζεται ως μέσο βελτίωσης του εργασιακού κλίματος, εγείρει σοβαρά ηθικά ζητήματα σχετικά με την ιδιωτικότητα του εσωτερικού κόσμου του ατόμου. Η εργασία μετατρέπεται σε ένα περιβάλλον όπου όχι μόνο οι πράξεις, αλλά και οι διαθέσεις τελούν υπό συνεχή επιτήρηση.

Το Ηθικό Ναρκοπέδιο και οι Κίνδυνοι Χειραγώγησης

Ο μεγαλύτερος κίνδυνος από το «χάκινγκ» των συναισθημάτων εντοπίζεται στην πολιτική και κοινωνική σφαίρα. Η δυνατότητα των αλγορίθμων να αναγνωρίζουν ποια συναισθηματικά ερεθίσματα προκαλούν την εντονότερη αντίδραση σε συγκεκριμένες πληθυσμιακές ομάδες μπορεί να οδηγήσει σε ακραίες μορφές μικρο-στόχευσης (micro-targeting). Η οργή, ο φόβος και η αγανάκτηση είναι τα πιο εύκολα συναισθήματα προς εκμετάλλευση, και το AI μπορεί να τα αναπαράγει και να τα ενισχύει σε κλίμακα που καμία ανθρώπινη προπαγάνδα δεν μπορούσε ποτέ να φτάσει.

«Το συναίσθημα είναι το νέο πετρέλαιο της ψηφιακής οικονομίας, αλλά σε αντίθεση με το πετρέλαιο, η εξόρυξή του γίνεται μέσα από τις ίδιες τις ψυχές μας.»

Η έλλειψη διαφάνειας στον τρόπο λειτουργίας αυτών των αλγορίθμων καθιστά σχεδόν αδύνατη την άμυνα του πολίτη. Όταν ένα AI «χακάρει» το συναίσθημά σου, δεν το κάνει με μια προφανή επίθεση, αλλά με μια ανεπαίσθητη αλλαγή στη ροή των πληροφοριών που δέχεσαι, οδηγώντας σε σε αποφάσεις που νομίζεις ότι είναι δικές σου, ενώ στην πραγματικότητα είναι το αποτέλεσμα ενός υπολογιστικού υπολογισμού.

Η Ανάγκη για Προστασία των «Νευρο-δικαιωμάτων»

Καθώς η τεχνολογία προχωρά, γίνεται σαφές ότι το υφιστάμενο νομικό πλαίσιο για την προστασία των προσωπικών δεδομένων είναι ανεπαρκές. Χρειαζόμαστε μια νέα κατηγορία δικαιωμάτων: τα νευρο-δικαιώματα (neuro-rights). Αυτά θα πρέπει να εγγυώνται την ψυχική ακεραιότητα και την ελευθερία από συναισθηματική χειραγώγηση. Η Ευρωπαϊκή Ένωση, μέσω του AI Act, έχει κάνει κάποια βήματα προς τον περιορισμό της χρήσης βιομετρικών συστημάτων αναγνώρισης συναισθημάτων σε συγκεκριμένους χώρους (όπως η εκπαίδευση ή η εργασία), αλλά η μάχη είναι ακόμα στην αρχή.

Συμπερασματικά, η Τεχνητή Νοημοσύνη έχει τη δυνατότητα να γίνει ένας εξαιρετικός σύντροφος στην ψυχική υγεία και την ανθρώπινη επικοινωνία. Ωστόσο, χωρίς αυστηρούς κανόνες και ηθικές δικλείδες ασφαλείας, κινδυνεύουμε να μετατραπούμε σε συναισθηματικά αντικείμενα προς επεξεργασία. Η διατήρηση της αυθεντικότητας των συναισθημάτων μας ίσως αποδειχθεί η μεγαλύτερη πρόκληση της ψηφιακής εποχής.