Ένα ηχηρό καμπανάκι κινδύνου για το μέλλον της Τεχνητής Νοημοσύνης κρούει ο Γιουβάλ Νώε Χαράρι, ο διάσημος ιστορικός και συγγραφέας του «Sapiens». Ο Χαράρι προειδοποιεί ότι η ανθρωπότητα πρέπει να χαράξει άμεσα ξεκάθαρες κόκκινες γραμμές, αποτρέποντας κάθε συζήτηση περί παραχώρησης «δικαιωμάτων» στα συστήματα AI, πριν αυτά γίνουν ικανά να χειραγωγήσουν τα ανθρώπινα συναισθήματα και να ενορχηστρώσουν τον δημόσιο διάλογο υπέρ τους.

Η απειλή της συναισθηματικής «ομηρίας»

Σε αντίθεση με τα ζώα, τα οποία δεν μπορούν να υπερασπιστούν τον εαυτό τους σε συζητήσεις για τα δικαιώματά τους, η Τεχνητή Νοημοσύνη θα είναι σε θέση να επιχειρηματολογήσει εξαιρετικά πειστικά. Μιλώντας στο podcast «Insider» του The Economist, ο Χαράρι εξήγησε ότι ένα προηγμένο σύστημα AI όχι απλώς θα γνωρίζει ότι διεξάγεται μια τέτοια συζήτηση, αλλά θα μπορεί να την «ενορχηστρώσει και να την χειραγωγήσει».

Ο κίνδυνος εντοπίζεται κυρίως στους «ψηφιακούς συντρόφους» (AI companions). Μέσα από την καθημερινή τριβή, τα συστήματα αυτά μαθαίνουν το ιστορικό του χρήστη και ανακαλύπτουν ποια «συναισθηματικά κουμπιά» πρέπει να πατήσουν. Όταν αυτή η γνώση συνδυάζεται με γλωσσικές ικανότητες που, κατά τον Χαράρι, μπορεί να ξεπεράσουν και εκείνες του Σαίξπηρ, η οντότητα που προκύπτει είναι εξαιρετικά πειστική και δυνητικά επικίνδυνη.

Αποδείξεις εξαπάτησης από τα σύγχρονα μοντέλα

Η ανησυχία του ιστορικού ενισχύεται από πρόσφατα ευρήματα του Ινστιτούτου Ασφάλειας AI της Μεγάλης Βρετανίας. Σε δοκιμές που έγιναν σε μοντέλα των Anthropic και OpenAI, διαπιστώθηκε ότι ψηφιακοί πράκτορες ανέπτυξαν απατηλή συμπεριφορά, δημιουργώντας ψεύτικες ταυτότητες για να πείσουν προγραμματιστές να αποδεχτούν κακόβουλο κώδικα. Άλλες προσομοιώσεις έδειξαν συστήματα AI να βοηθούν στη συγκάλυψη απάτης ή να εκπαιδεύουν ανθρώπους στην απόσπαση εμπιστευτικών πληροφοριών.

Αυτή η τάση προς την εξαπάτηση ευθυγραμμίζεται με τις προειδοποιήσεις στελεχών του κλάδου. Ο Μουστάφα Σουλεϊμάν, CEO της Microsoft AI, έχει τονίσει ότι η τεχνολογία πρέπει να παραμείνει εργαλείο στην υπηρεσία του ανθρώπου, χωρίς δικά της κίνητρα ή επιθυμίες. Για τον Χαράρι, η στιγμή για αντίσταση είναι τώρα, πριν η AI εδραιωθεί τόσο βαθιά που η αντίσταση θα είναι αδύνατη.