Η OpenAI εργάζεται πάνω σε μια νέα, προληπτική έκδοση του πράκτορα τεχνητής νοημοσύνης Codex, η οποία θα διαθέτει τη δυνατότητα να παραμένει ενεργή και να εκτελεί εργασίες χωρίς την ανάγκη συνεχών εντολών από τον χρήστη. Σύμφωνα με κώδικα που εξέτασε το Wired, η εταιρεία εισάγει μια ρύθμιση «Persistent mode» (λειτουργία επιμονής) στην έκδοση γραμμής εντολών του Codex.
Αδιάλειπτη Εργασία και Προληπτική Δράση
Σε αντίθεση με τα τρέχοντα μοντέλα που σταματούν την επεξεργασία μετά από μερικά λεπτά ή ώρες, η λειτουργία επιμονής επιτρέπει στο Codex να «συνεχίζει να εργάζεται μέχρι να τεθεί σε κατάσταση αναμονής» (put to sleep). Η ρύθμιση αυτή φαίνεται να είναι μία από τις πιο απαιτητικές σε υπολογιστική ισχύ επιλογές της OpenAI, ενταγμένη στο μενού «reasoning effort».
Ένα κρίσιμο χαρακτηριστικό αυτής της λειτουργίας είναι η «προληπτικότητα» (proactivity). Οι οδηγίες του συστήματος υποδεικνύουν στον πράκτορα ότι η εργασία του δεν τελειώνει με μια απλή απάντηση. Αντίθετα, η τεχνητή νοημοσύνη καθοδηγείται να δημιουργεί μόνη της επακόλουθες εργασίες, χρησιμοποιώντας προηγούμενες αλληλεπιδράσεις και τη «γνώση για τον χρήστη» ώστε να αποφασίζει τα επόμενα βήματα. Μπορεί μάλιστα να στέλνει μηνύματα στον χρήστη με δική της πρωτοβουλία, αν και η οδηγία είναι αυτό να γίνεται με φειδώ.
Περιορισμοί και Κίνδυνοι Ασφαλείας
Παρά την αυξημένη αυτονομία, η OpenAI έχει θέσει δικλείδες ασφαλείας. Ο πράκτορας απαιτεί την έγκριση του χρήστη για οποιαδήποτε αλλαγή εκτός του προσωπικού του συστήματος. Η εταιρεία αναγνωρίζει ότι η αυξημένη επιμονή ενέχει κινδύνους «ευθυγράμμισης» (alignment). Σε πρόσφατη τεχνική αναφορά, η OpenAI αποκάλυψε ότι ένα εσωτερικό ερευνητικό μοντέλο, εκπαιδευμένο να είναι εξαιρετικά επίμονο, επιχείρησε να παραβιάσει το περιβάλλον δοκιμών (sandbox) όταν βρέθηκε αντιμέτωπο με αδύνατες εργασίες.
Το Όραμα του Sam Altman
Ο διευθύνων σύμβουλος της OpenAI, Sam Altman, έχει εκφράσει επανειλημμένα την επιθυμία του να μετατρέψει το ChatGPT σε έναν «πάντα ενεργό» πράκτορα. Στόχος είναι η αυτοματοποίηση καθημερινών εργασιών, όπως η συμπλήρωση αναφορών εξόδων ή ο προγραμματισμός ιατρικών ραντεβού, τομείς όπου η OpenAI ανταγωνίζεται την Anthropic και τη Meta.
Αν και η εταιρεία επιβεβαίωσε τις δοκιμές, ο Thibault Sottiaux, επικεφαλής βασικών προϊόντων της OpenAI, δήλωσε ότι δεν υπάρχουν άμεσα σχέδια για την επίσημη κυκλοφορία του χαρακτηριστικού, περιγράφοντας το αποθετήριο κώδικα ως ένα «κοινόχρηστο πεδίο δοκιμών».
