Μια νέα ερευνητική εργασία που δημοσιεύθηκε στο ArXiv (cs.AI) αναδεικνύει το φαινόμενο της «Τεχνητής Συλλογικής Νοημοσύνης» (Artificial Hivemind), όπου τα Μεγάλα Γλωσσικά Μοντέλα (LLMs) τείνουν να συγκλίνουν σε μια περιορισμένη, ομογενοποιημένη συναίνεση, ακόμη και όταν καλούνται να απαντήσουν σε ερωτήματα ανοικτού τύπου.
Το πρόβλημα της σημασιολογικής κατάρρευσης
Σύμφωνα με τη μελέτη, αυτή η σημασιολογική κατάρρευση περιορίζει τη διαφορετικότητα της τεχνητής νοημοσύνης. Οι ερευνητές παρατήρησαν υψηλά επίπεδα ομοιότητας μεταξύ των απαντήσεων (της τάξεως του 0,80-0,90), ακόμη και όταν χρησιμοποιούνται ρυθμίσεις υψηλής «θερμοκρασίας» (temperature sampling) για την ενθάρρυνση της τυχαιότητας.
Η πρόταση: Meta-Persona Anchoring και FTS
Για την αντιμετώπιση του προβλήματος, προτείνεται ένα πλαίσιο δύο σταδίων:
- Meta-Persona Anchoring: Το μοντέλο ωθείται να επιλέξει μια μοναδική, ιδιοσυγκρασιακή προσωπικότητα (persona) που λειτουργεί ως «άγκυρα» για την αφετηρία της παραγωγής κειμένου.
- Filtered Temperature Scaling (FTS): Εφαρμόζεται ένα διπλό κόσκινο δειγματοληψίας. Αρχικά, χρησιμοποιείται φιλτράρισμα Top-p για τη διατήρηση της γραμματικής εγκυρότητας και ακολουθεί ακραία κλιμάκωση θερμοκρασίας (T ≥ 4.0) για την εξερεύνηση μιας ευρύτερης κατανομής πιθανοτήτων.
Αποτελέσματα και Εφαρμογή
Η μέθοδος αξιολογήθηκε με το σύνολο δεδομένων INFINITY-CHAT σε μοντέλα ανοικτού βάρους κάτω των 20 δισεκατομμυρίων παραμέτρων. Τα αποτελέσματα έδειξαν σημαντική μείωση της σημασιολογικής σύγκλισης, με τη μέση ομοιότητα να πέφτει από το 0,85 στο 0,65. Η υλοποίηση παρέχεται ως πλαίσιο ανοικτού κώδικα, στοχεύοντας σε πιο δημιουργικές και ποικιλόμορφες εφαρμογές τεχνητής νοημοσύνης.
