Καθώς οι πράκτορες που βασίζονται σε Μεγάλα Γλωσσικά Μοντέλα (LLMs) αναλαμβάνουν ολοένα και πιο κρίσιμες ενέργειες μέσω της χρήσης εργαλείων, η ανάγκη για παρακολούθηση της ασφάλειας σε πραγματικό χρόνο καθίσταται επιτακτική. Η νέα έρευνα παρουσιάζει το NEXUS (Neural EXecution Utility and Safety), έναν επόπτη ασφαλείας δομημένου σχεδιασμού που εφαρμόζει μια επίσημη πολιτική παρέμβασης.

Τέσσερα Επίπεδα Παρέμβασης

Το NEXUS δεν περιορίζεται σε μια απλή δυαδική απόφαση (έγκριση ή απόρριψη). Αντίθετα, επιλέγει μεταξύ τεσσάρων διακριτών ενεργειών:

  • Allow (Επιτρέπω): Πλήρης έγκριση της ενέργειας.
  • Block (Εμποδίζω): Άμεση διακοπή της ενέργειας για λόγους ασφαλείας.
  • Request Confirmation (Αίτημα Επιβεβαίωσης): Ζητά από τον χρήστη να εγκρίνει την ενέργεια.
  • Request Revision (Αίτημα Αναθεώρησης): Ζητά από το μοντέλο να τροποποιήσει το σχέδιο δράσης του.

Τεχνική Υπεροχή και Απόδοση

Το σύστημα συνδυάζει ντετερμινιστικούς κανόνες ασφαλείας, επιθεώρηση σε επίπεδο ορισμάτων και μια βαθμονομημένη βαθμολογία κινδύνου μέσω λογιστικής παλινδρόμησης (logistic-regression). Σε δοκιμές με το benchmark NEXUS-Stress, το σύστημα πέτυχε F1 score 0,881, αποδεικνύοντας την ικανότητά του να διαχειρίζεται σύνθετες παρεμβάσεις εκεί όπου οι απλοί κανόνες αποτυγχάνουν.

Ένα από τα σημαντικότερα πλεονεκτήματα του NEXUS είναι η ταχύτητά του. Με διάμεση καθυστέρηση μόλις 0,205 ms, προσθέτει λιγότερο από 0,1% επιβάρυνση στους τυπικούς βρόχους λειτουργίας των πρακτόρων, καθιστώντας το ιδανικό για εφαρμογές πραγματικού χρόνου.