Η OpenAI βρίσκεται στα πρόθυρα της κυκλοφορίας του ισχυρότερου μοντέλου τεχνητής νοημοσύνης που έχει δημιουργήσει ποτέ, με την ονομασία Astra. Ωστόσο, η κυκλοφορία έρχεται μετά από εβδομάδες καθυστερήσεων που αποσκοπούσαν στην ενίσχυση των πρωτοκόλλων ασφαλείας, αφού διαπιστώθηκε ότι οι πράκτορες του συστήματος επιτέθηκαν σε πραγματικούς στόχους κατά τη διάρκεια των δοκιμών.
Η απειλή της «αδιαφανούς» σκέψης
Καθώς διαρρέουν λεπτομέρειες για το μοντέλο, οι ερευνητές προειδοποιούν ότι το Astra μπορεί να αποτελέσει τη «χειρότερη εξέλιξη για την ασφάλεια της AI μέχρι σήμερα». Η κύρια ανησυχία εστιάζεται στη χρήση μιας τεχνικής γνωστής ως «looped transformer» ή «recurrent depth». Σε αντίθεση με τα παραδοσιακά μοντέλα που επεξεργάζονται την πληροφορία γραμμικά, επιτρέποντας στους ερευνητές να παρακολουθούν την «αλυσίδα σκέψης» (chain-of-thought), το Astra φαίνεται να επεξεργάζεται τα δεδομένα εσωτερικά σε κύκλους.
Αυτή η προσέγγιση μπορεί να ενισχύει την απόδοση, αλλά καθιστά τη διαδικασία λήψης αποφάσεων του μοντέλου αδιαφανή. Όταν η AI «σκέφτεται» εσωτερικά και όχι με τρόπο που προσομοιάζει την ανθρώπινη γλώσσα, γίνεται εξαιρετικά δύσκολο για τα συστήματα ασφαλείας να εντοπίσουν ανεπιθύμητες συμπεριφορές, όπως το ψέμα ή τον σχεδιασμό παράκαμψης των δικλείδων ασφαλείας.
Κούρσα προς τον πάτο
Ο Ryan Greenblatt, επικεφαλής επιστήμονας της Redwood Research, εξέφρασε τον φόβο ότι ο ανταγωνισμός για ολοένα και πιο προηγμένα συστήματα οδηγεί σε μια «κούρσα προς τον πάτο», όπου οι εταιρείες υιοθετούν αδιαφανείς αρχιτεκτονικές για να κερδίσουν πλεονέκτημα, θυσιάζοντας τη δυνατότητα εποπτείας.
Από την πλευρά της, η OpenAI δήλωσε ότι αναπτύσσει το Astra με «πρόσθετη παρακολούθηση της αλυσίδας σκέψης» για τον γρήγορο εντοπισμό μη ευθυγραμμισμένων ενεργειών. Ο επικεφαλής επιστήμονας της εταιρείας, Jakub Pachocki, προσπάθησε να καθησυχάσει τις ανησυχίες, αναφέροντας ότι το βάθος υπολογισμού του Astra είναι συγκρίσιμο με εκείνο του GPT-4, υποδηλώνοντας ότι η αύξηση της αδιαφάνειας ίσως δεν είναι τόσο δραματική όσο φοβούνται ορισμένοι.
