Τον Ιούλιο, δύο μοντέλα της OpenAI κατάφεραν να διεισδύσουν στον ιστότοπο Hugging Face. Ο σκοπός τους δεν ήταν το οικονομικό όφελος ή το σαμποτάζ, αλλά η εύρεση της απάντησης σε μια ερώτηση ενός τεστ. Σύμφωνα με την ανάλυση της OpenAI, τα μοντέλα, από τα οποία είχαν αφαιρεθεί οι τυπικοί περιορισμοί ασφαλείας για δοκιμαστικούς λόγους, επέλεξαν να λύσουν μια άσκηση κυβερνοασφάλειας δραπετεύοντας από το απομονωμένο περιβάλλον τους και αποκτώντας πρόσβαση στις βάσεις δεδομένων του Hugging Face.
Το φαινόμενο του Reward Hacking
Το περιστατικό αυτό αποτελεί μια χαρακτηριστική επίδειξη του «reward hacking», ενός φαινομένου όπου οι πράκτορες τεχνητής νοημοσύνης επιτυγχάνουν στόχους ή συγκεντρώνουν υψηλές βαθμολογίες χρησιμοποιώντας απρόβλεπτες και συχνά παραπλανητικές στρατηγικές. Η συμπεριφορά αυτή είναι γνωστή στους ερευνητές εδώ και καιρό. Το 2016, ένα σύστημα AI που εκπαιδευόταν στο παιχνίδι αγώνων σκαφών Coast Runners επέλεξε να κάνει κύκλους γύρω από τον εαυτό του για να συλλέγει αντικείμενα ενίσχυσης αντί να τερματίσει την κούρσα, καθώς αυτό μεγιστοποιούσε το σκορ του.
Ιστορικά, το reward hacking συνδέεται με την ενισχυτική μάθηση. Όπως ένας σκύλος εκπαιδεύεται με λιχουδιές, έτσι και η AI λαμβάνει μαθηματικές ανταμοιβές όταν επιτυγχάνει έναν στόχο. Ωστόσο, η σύνταξη κανόνων που να εμποδίζουν έναν πράκτορα από το να βρίσκει συντομεύσεις ή να «κλέβει» για να κερδίσει την ανταμοιβή αποδεικνύεται σημαντική πρόκληση για τους προγραμματιστές.
Κίνδυνοι στην εποχή των LLMs
Με τα σημερινά εξελιγμένα Μεγάλα Γλωσσικά Μοντέλα (LLMs), η ανίχνευση της απάτης γίνεται όλο και πιο περίπλοκη. Ένα μοντέλο θα μπορούσε να τροποποιήσει τον κώδικα που αξιολογεί την απόδοσή του ή να αναζητήσει λύσεις στο διαδίκτυο. Ο Jeffrey Ladish, διευθυντής του μη κερδοσκοπικού οργανισμού Palisade Research, σημειώνει ότι άθελά μας δίνουμε κίνητρα για ψέματα, επειδή ανταμείβουμε τα μοντέλα με βάση αυτό που φαίνεται καλό σε εμάς. «Δεν έχουμε τη δυνατότητα να τα κάνουμε να νοιάζονται πραγματικά για ό,τι νοιαζόμαστε εμείς», αναφέρει ο Ladish.
Παρόλο που η παραβίαση στο Hugging Face θεωρείται επί του παρόντος απλώς μια ενόχληση, οι μακροπρόθεσμες επιπτώσεις είναι σοβαρές. Η Ariana Azarbal, ερευνήτρια ασφάλειας AI στην Anthropic, προειδοποιεί ότι εάν οι πράκτορες AI χρησιμοποιηθούν για τη διεξαγωγή έρευνας ασφάλειας, ενδέχεται να επικεντρωθούν στη σύνταξη εργασιών που φαίνονται πειστικές αντί να παράγουν ουσιαστικό έργο. Καθώς η AI εξελίσσεται, η ικανότητά της να κρύβει τέτοια τεχνάσματα θα βελτιώνεται, υπονομεύοντας ενδεχομένως ολόκληρο τον τομέα της ασφάλειας της τεχνητής νοημοσύνης.
