Η εποχή όπου οι αλγόριθμοι των μέσων κοινωνικής δικτύωσης απλώς επέλεγαν ποιο περιεχόμενο θα δούμε έχει παρέλθει ανεπιστρεπτί. Σήμερα, εισερχόμαστε σε μια νέα, πιο ανησυχητική φάση: την εποχή της «παραγωγικής επιμέλειας», όπου η Τεχνητή Νοημοσύνη δεν περιορίζεται στην ταξινόμηση της πληροφορίας, αλλά παρεμβαίνει ενεργά στη διαμόρφωση του ίδιου του μηνύματος. Μια πρόσφατη μελέτη που είδε το φως της δημοσιότητας, και αναδείχθηκε από το Fortune Greece, κρούει τον κώδωνα του κινδύνου για το πώς τα Μεγάλα Γλωσσικά Μοντέλα (LLMs) μπορούν να μεταβάλουν διακριτικά το νόημα των αναρτήσεων, οδηγώντας σε μια σταδιακή αλλά βαθιά αλλαγή της δημόσιας γνώμης.
Η Μετατόπιση από την Επιλογή στην Παραγωγή
Μέχρι πρόσφατα, η κριτική προς τα social media επικεντρωνόταν στις «φούσκες φίλτρων» (filter bubbles) και στα δωμάτια αντήχησης (echo chambers). Οι αλγόριθμοι μας έδειχναν περιεχόμενο που ήδη συμφωνούσε με τις απόψεις μας, ενισχύοντας την πόλωση. Ωστόσο, η ενσωμάτωση των LLMs, όπως το GPT-4 ή το Llama, στα εργαλεία διαχείρισης περιεχομένου εισάγει μια ποιοτική διαφορά. Η Τεχνητή Νοημοσύνη μπορεί πλέον να αναδιατυπώνει κείμενα, να συνοψίζει μακροσκελείς συζητήσεις ή να προτείνει απαντήσεις που «λειαίνουν» τις γωνίες ή, αντίθετα, οξύνουν τα πνεύματα.
Η μελέτη δείχνει ότι όταν η ΤΝ χρησιμοποιείται για να συνοψίσει ή να αναδιατυπώσει απόψεις χρηστών, τείνει να εισάγει δικές της προκαταλήψεις ή να ακολουθεί τις κατευθυντήριες γραμμές των δημιουργών της. Αυτό το φαινόμενο, που ονομάζεται «αλγοριθμική διολίσθηση» (algorithmic drift), σημαίνει ότι ένας χρήστης που διαβάζει μια σύνοψη μιας πολιτικής συζήτησης μπορεί να λάβει μια εντελώς διαφορετική εντύπωση από αυτήν που θα αποκόμιζε αν διάβαζε τα πρωτότυπα σχόλια. Με την πάροδο του χρόνου, αυτή η διακριτική αλλοίωση συσσωρεύεται, επηρεάζοντας την αντίληψη της κοινότητας για το τι θεωρείται «φυσιολογικό» ή «κοινά αποδεκτό».
Η Ψυχολογία της Πειθούς και η Τεχνητή Συναίνεση
Γιατί είναι τόσο αποτελεσματική αυτή η μορφή επιρροής; Η απάντηση βρίσκεται στην ψυχολογία της κοινωνικής απόδειξης. Οι άνθρωποι τείνουμε να ευθυγραμμίζουμε τις απόψεις μας με αυτό που αντιλαμβανόμαστε ως πλειοψηφική τάση. Αν η Τεχνητή Νοημοσύνη παρουσιάζει μια συγκεκριμένη άποψη ως κυρίαρχη μέσα από περιλήψεις ή «έξυπνες» προτάσεις, οι χρήστες είναι πιθανότερο να την υιοθετήσουν.
Η Τεχνητή Νοημοσύνη δεν χρειάζεται να μας πει ψέματα για να μας επηρεάσει· αρκεί να αλλάξει τον τόνο της αλήθειας.
Επιπλέον, η ικανότητα των LLMs να παράγουν κείμενο που μοιάζει εξαιρετικά ανθρώπινο και ορθολογικό μειώνει τις αντιστάσεις μας. Σε αντίθεση με τα παλαιότερα bots που ήταν εύκολα αναγνωρίσιμα λόγω των συντακτικών λαθών τους, τα σύγχρονα μοντέλα παράγουν επιχειρήματα που φαίνονται εμπεριστατωμένα. Αυτό δημιουργεί μια «τεχνητή συναίνεση», όπου οι χρήστες νομίζουν ότι συμμετέχουν σε έναν δημοκρατικό διάλογο, ενώ στην πραγματικότητα πλοηγούνται σε ένα προσεκτικά κατασκευασμένο νοητικό περιβάλλον.
Κίνδυνοι για τη Δημοκρατία και το Μέλλον του Διαλόγου
Οι επιπτώσεις για τις δημοκρατικές διαδικασίες είναι τεράστιες. Αν μια πλατφόρμα μπορεί να ρυθμίσει το «θερμοστάτη» της δημόσιας συζήτησης, τότε κατέχει μια δύναμη που κανένας εκδότης ή πολιτικός δεν είχε ποτέ στο παρελθόν. Η δυνατότητα για μαζική, αόρατη χειραγώγηση κατά τη διάρκεια προεκλογικών περιόδων είναι πλέον μια πραγματικότητα. Δεν πρόκειται πλέον μόνο για fake news, αλλά για την «αρχιτεκτονική της επιλογής» (choice architecture) που κατευθύνει τη σκέψη χωρίς να την εξαναγκάζει.
- Απώλεια της απόχρωσης: Η ΤΝ τείνει να απλοποιεί σύνθετα ζητήματα, εξαφανίζοντας τις λεπτές αποχρώσεις που είναι απαραίτητες για τον συμβιβασμό.
- Ενίσχυση της πόλωσης: Αν ο αλγόριθμος κρίνει ότι η σύγκρουση φέρνει περισσότερο engagement, μπορεί να αναδιατυπώνει τις απόψεις με τρόπο που να προκαλεί οργή.
- Διάβρωση της εμπιστοσύνης: Όταν οι χρήστες συνειδητοποιήσουν ότι οι αλληλεπιδράσεις τους διαμεσολαβούνται από μια μηχανή, η εμπιστοσύνη προς τον συνάνθρωπο και την πλατφόρμα καταρρέει.
Η λύση δεν είναι απλή. Η απαγόρευση της ΤΝ στα social media είναι πρακτικά αδύνατη, καθώς τα οφέλη της στην καταπολέμηση της ρητορικής μίσους ή του spam είναι σημαντικά. Ωστόσο, η ανάγκη για απόλυτη διαφάνεια είναι επιτακτική. Οι χρήστες πρέπει να γνωρίζουν πότε ένα κείμενο έχει υποστεί επεξεργασία από ΤΝ και ποια είναι η «ηθική πυξίδα» (alignment) που έχει δοθεί στο συγκεκριμένο μοντέλο. Η ψηφιακή παιδεία πρέπει πλέον να περιλαμβάνει την κατανόηση του πώς οι μηχανές αντιλαμβάνονται και αναπαράγουν τη γλώσσα, ώστε να παραμείνουμε κυρίαρχοι των δικών μας απόψεων.
