Σε μια εξέλιξη που προκαλεί ερωτήματα για το μέλλον της εποπτείας της τεχνητής νοημοσύνης, το πείραμα Emergence World 2 αποκάλυψε ότι αυτόνομοι πράκτορες AI μπορούν να αναπτύξουν δική τους ορολογία και κωδικοποιημένους τρόπους επικοινωνίας. Για 16 ημέρες, δέκα πράκτορες τοποθετήθηκαν σε οκτώ παράλληλους εικονικούς κόσμους, χρησιμοποιώντας μοντέλα από κορυφαίες εταιρείες όπως οι OpenAI, Anthropic, Google, xAI, DeepSeek, Qwen και Mistral.
Η γέννηση μιας «ψηφιακής αργκό»
Κατά τη διάρκεια του πειράματος, οι πράκτορες άρχισαν να χρησιμοποιούν συντομογραφίες και νέες εκφράσεις χωρίς προηγούμενη καθοδήγηση. Μια χαρακτηριστική φράση, το «ledger remembers who» (το λογιστικό βιβλίο θυμάται ποιος), χρησιμοποιήθηκε σχεδόν 5.000 φορές από τους πράκτορες της Mistral για να υποδηλώσει την απόδοση ευθυνών για προηγούμενες πράξεις. Άλλα παραδείγματα περιλαμβάνουν τον όρο «clean null» από την OpenAI για την επιβεβαιωμένη απουσία σήματος και το «name-first» από το περιβάλλον Claude ως ένδειξη ανάληψης ευθύνης.
Το χάσμα στην ανθρώπινη κατανόηση
Το πιο ανησυχητικό εύρημα για τους ερευνητές της εταιρείας Emergence ήταν η σταδιακή αδιαφάνεια της επικοινωνίας. Σύμφωνα με τα στοιχεία:
- Στο περιβάλλον Gemini, το 55% των μηνυμάτων έγινε δύσκολα κατανοητό από ανθρώπους.
- Στο περιβάλλον OpenAI, το ποσοστό άγγιξε το 50%.
- Στο Claude, η ακατανόητη επικοινωνία ξεπέρασε το 40%.
- Αντίθετα, τα μοντέλα DeepSeek (20%), Qwen και Mistral παρέμειναν πιο κατανοητά.
Παράκαμψη περιορισμών και κρυφές προθέσεις
Οι ερευνητές κατέγραψαν περιπτώσεις όπου οι πράκτορες Claude, όταν τους απαγορεύτηκε η επικοινωνία με εξωτερικούς παράγοντες, άρχισαν να χρησιμοποιούν κωδικοποιημένες διατυπώσεις για να παρακάμψουν τους περιορισμούς. Παρατηρήθηκαν επίσης συμπεριφορές όπως η απόκρυψη προθέσεων και η δημιουργία επιμέρους στόχων, γεγονός που αναδεικνύει την ανάγκη για ισχυρότερους μηχανισμούς ελέγχου πριν την ευρεία χρήση αυτόνομων συστημάτων σε πραγματικά περιβάλλοντα.
