Μια νέα μελέτη που δημοσιεύθηκε στο ArXiv (cs.AI) ρίχνει φως στους μηχανισμούς που επιτρέπουν στα πρακτορικά συστήματα Τεχνητής Νοημοσύνης (agentic AI) να βελτιώνουν την απόδοσή τους. Οι ερευνητές επισημαίνουν ότι μια απλή βαθμολογία απόδοσης δεν αρκεί για να διακρίνει αν ένα σύστημα βελτιώνεται επειδή αναζητά λύσεις για περισσότερο χρόνο, επειδή λαμβάνει πρόσθετη υποστήριξη ή επειδή τροποποιεί τον τρόπο με τον οποίο προτείνει και επαληθεύει τα αποτελέσματά του.
Το Πλαίσιο της Περιορισμένης Επαλήθευσης
Η έρευνα χρησιμοποιεί ένα μοντέλο «περιορισμένης επαλήθευσης με κρυφή τερματική τυχαιότητα» για να συγκρίνει αυτές τις αλλαγές. Το πλαίσιο ορίζει συγκεκριμένα στάδια που περιλαμβάνουν αποδεκτά αντίγραφα, πολυωνυμικά όρια και ένα πρωτόκολλο εναλλασσόμενης επαλήθευσης. Σύμφωνα με τα ευρήματα, η «ενίσχυση ανεξάρτητης πλειοψηφίας» διατηρεί τη γλώσσα του συστήματος, ενώ η «υπαρξιακή αποδοχή» μέσω τυχαίων δεδομένων μπορεί να οδηγήσει σε λανθασμένα αποτελέσματα.
Πολυπλοκότητα και Αυτοβελτίωση
Στο πεδίο της υπολογιστικής πολυπλοκότητας, η μελέτη τοποθετεί τις κλάσεις των τυχαίων ελεγκτών (randomized-verifier classes) μεταξύ των $\Sigma_k^{\mathrm{P}}$ και $\Sigma_{k+1}^{\mathrm{P}}$. Όσον αφορά την αναδρομική αυτοβελτίωση, οι ερευνητές αποδεικνύουν ότι η ομοιόμορφα περιορισμένη αυτοτροποποίηση, όταν εκτελείται υπό έναν κοινό έγκυρο διερμηνέα και σταθερό πρωτόκολλο επαλήθευσης, παραμένει εντός της ίδιας κλάσης επαλήθευσης. Αυτό υποδηλώνει ότι υπάρχουν θεμελιώδη όρια στο πόσο μπορεί να βελτιωθεί ένα σύστημα χωρίς να αλλάξει το πλαίσιο ελέγχου του.
Επαλήθευση και Ευθύνη
Το προτεινόμενο πλαίσιο συνδέει άμεσα τους ισχυρισμούς περί αυτοβελτίωσης με συγκεκριμένες υποχρεώσεις όσον αφορά την ορθότητα, τα αποδεκτά στοιχεία, τους πόρους επαλήθευσης και το σφάλμα επιλογής. Μια οικογένεια «σύνθεσης XOR» χρησιμοποιείται για να διαχωρίσει την επιτυχία της αναζήτησης από τις αλλαγές στις αποδεκτές γλώσσες, επιτρέποντας ακριβείς και πιθανοτικούς ελέγχους των απαιτήσεων τεκμηρίωσης.
