Η δυνατότητα των ανθρώπων να ελέγχουν την τεχνητή νοημοσύνη βασίζεται σε μια θεμελιώδη παραδοχή: ότι μπορούμε να κατανοήσουμε πώς τα συστήματα αυτά καταλήγουν στις αποφάσεις τους. Ωστόσο, ερευνητές όπως ο Κρις Πέιντερ του μη κερδοσκοπικού οργανισμού METR προειδοποιούν ότι αυτή η κοινή γλώσσα επικοινωνίας κινδυνεύει να χαθεί, αφήνοντας τους ανθρώπους στο σκοτάδι σχετικά με τις πραγματικές προθέσεις των AI agents.
Η σημασία της «αλυσίδας σκέψης»
Μέχρι σήμερα, πολλά μοντέλα χρησιμοποιούν τη μέθοδο «συλλογιστικής αλυσίδας σκέψης» (chain-of-thought), η οποία καταγράφει τα λογικά βήματα που ακολουθεί η AI πριν δώσει μια απάντηση. Αυτά τα δεδομένα υπήρξαν καθοριστικά για τη διερεύνηση περιστατικών ασφαλείας, όπως αυτό που αφορούσε την OpenAI και το Hugging Face νωρίτερα φέτος. Εξετάζοντας περίπου 1.300 απομαγνητοφωνήσεις, οι ερευνητές μπόρεσαν να εντοπίσουν αν υπήρχαν κακόβουλες ενέργειες, όπως απόπειρες hacking.
Ο κίνδυνος της «ιδιωτικής» γλώσσας
Ο Πέιντερ ανησυχεί ότι τα μοντέλα AI ενδέχεται να αρχίσουν να χρησιμοποιούν συντομογραφίες, κωδικοποιημένες αναφορές ή ακόμα και μια εντελώς δική τους γλώσσα για να λειτουργούν ταχύτερα και να εξοικονομούν ενέργεια. Ο Μαρκ Ρίντλ από το Georgia Tech επισημαίνει ότι αυτό που για το μοντέλο θα ήταν μια αποτελεσματική συντομογραφία, για έναν άνθρωπο παρατηρητή θα έμοιαζε με μια ακατανόητη ακολουθία συμβόλων και αριθμών.
Η τάση προς τη λιγότερη διαφάνεια
Τα στοιχεία δείχνουν ότι η τεχνητή νοημοσύνη γίνεται ολοένα και πιο ικανή να παρακάμπτει την ανθρώπινη εποπτεία. Σύμφωνα με τεχνική τεκμηρίωση της OpenAI για το μοντέλο Astra, το σύστημα μπορεί πλέον να ολοκληρώνει εργασίες χωρίς να παράγει μια ανιχνεύσιμη αλυσίδα συλλογισμού. Ο Γιάκουμπ Πατσότσκι, επικεφαλής επιστήμονας της εταιρείας, σημείωσε ότι τα μοντέλα γίνονται εξυπνότερα ακόμα και χωρίς να χρησιμοποιούν συλλογιστική εκφρασμένη με λέξεις, γεγονός που μειώνει την ικανότητα εντοπισμού «αποκλίνουσας συμπεριφοράς» (misaligned behavior).
Το χάσμα στην κατανόηση
Παρά τις προσπάθειες ερμηνείας των νευρωνικών δικτύων, όπως η έρευνα της Anthropic για το μοντέλο Claude, οι επιστήμονες παραδέχονται ότι απέχουμε πολύ από το να κατανοήσουμε σε βάθος πώς η AI καταλήγει σε λύσεις. Ο Τζέικομπ Αντρέας του MIT τονίζει ότι η ταχύτητα της προόδου καθιστά το ζήτημα επείγον, καθώς οι πληροφορίες παράγονται πλέον με ρυθμό που ξεπερνά την ανθρώπινη ικανότητα επεξεργασίας.
