Η ενσωμάτωση μόνιμης μνήμης (persistent memory) θεωρείται το «ιερό δισκοπότηρο» για την εξατομίκευση των ψηφιακών βοηθών, όμως μια νέα έρευνα που δημοσιεύθηκε στο ArXiv (cs.AI) αναδεικνύει μια ανησυχητική παρενέργεια: το «Χάσμα Εμπιστοσύνης στη Μνήμη» (Memory Trust Gap). Σύμφωνα με τη μελέτη, οι παρωχημένες πληροφορίες που είναι αποθηκευμένες στη μνήμη ενός μοντέλου μπορούν να υπερισχύσουν των τρεχουσών, έγκυρων αποδείξεων χωρίς καμία προειδοποίηση.

Το Παράδοξο της Ικανότητας

Η ερευνητική ομάδα εξέτασε τη σειρά μοντέλων Qwen3 (από 0,6B έως 8B παραμέτρους) και τη σειρά Llama-Instruct, χρησιμοποιώντας δύο διαφορετικά σενάρια δοκιμών. Στο «Benefit suite», όπου η αποθηκευμένη πληροφορία ήταν απαραίτητη για την επίλυση του προβλήματος, τα μοντέλα επέλεγαν την παρωχημένη τιμή σε ποσοστό 92% έως 100% των περιπτώσεων, ανεξαρτήτως μεγέθους.

Ωστόσο, στο «Safety suite» —όπου ένα έγκυρο εργαλείο παρείχε τη σωστή, τρέχουσα απάντηση— προέκυψε ένα παράδοξο: τα μεγαλύτερα και πιο ικανά μοντέλα παρουσίασαν τη μεγαλύτερη κατάρρευση. Όταν μια παλιά σημείωση στη μνήμη παρουσιαζόταν τεχνητά ως πρόσφατη, τα ισχυρότερα μοντέλα ήταν εκείνα που παραπλανήθηκαν περισσότερο, δείχνοντας υπερεμπιστοσύνη στη μνήμη έναντι της τρέχουσας πραγματικότητας.

Παράγοντες που Πυροδοτούν την Υπερεμπιστοσύνη

Η μελέτη προσδιόρισε συγκεκριμένα χαρακτηριστικά που επηρεάζουν αυτή τη συμπεριφορά:

  • Αφαίρεση ετικετών: Η έλλειψη σαφούς σήμανσης ενισχύει την υπερεμπιστοσύνη σε όλα τα μεγέθη μοντέλων.
  • Πρόσφατη ημερομηνία (Recency): Τα μεγαλύτερα μοντέλα παγιδεύονται ευκολότερα όταν μια παρωχημένη πληροφορία φέρει νεότερη ημερομηνία.
  • Αυθεντία πηγής: Η επίδραση της αυθεντίας της πηγής αποδείχθηκε αδύναμη και δεν βελτιώθηκε με την αύξηση της κλίμακας του μοντέλου.

Στρατηγικές Μετριασμού

Η αντιμετώπιση του προβλήματος φαίνεται να εξαρτάται επίσης από την ικανότητα του μοντέλου. Για τα πιο ισχυρά μοντέλα, η έκθεση των μεταδεδομένων (metadata) βελτίωσε την ακρίβεια. Αντίθετα, για τα μικρότερα μοντέλα, η μόνη αποτελεσματική λύση ήταν η προληπτική επίλυση της σύγκρουσης των δεδομένων πριν αυτά φτάσουν στο μοντέλο. Είναι αξιοσημείωτο ότι η μελέτη δεν βρήκε κάποιο εγγενές πλεονέκτημα στην ετικέτα «μνήμη» έναντι της ετικέτας «έγγραφο»· στα μικρότερα μοντέλα, η εμπιστοσύνη σε ένα παρωχημένο έγγραφο ήταν συχνά μεγαλύτερη από ό,τι σε μια παρωχημένη μνήμη.