Η OpenAI έλαβε την απόφαση να αναστείλει την κυκλοφορία του GPT-6.1 Astra, καθώς το νέο μοντέλο απέτυχε να περάσει τους εσωτερικούς ελέγχους ασφαλείας της εταιρείας. Η εξέλιξη αυτή σημειώνεται λίγο πριν από το ετήσιο συνέδριο προγραμματιστών DevDay, όπου αναμένονταν οι ανακοινώσεις για τα επόμενα βήματα της εταιρείας.
Αδυναμίες στην αυτονομία και τον έλεγχο
Το GPT-6.1 Astra είχε σχεδιαστεί με στόχο την εκτέλεση σύνθετων εργασιών με αυξημένη αυτονομία, έχοντας τη δυνατότητα να αλληλεπιδρά με ιστοσελίδες και εφαρμογές. Ωστόσο, η Saachi Jain, επικεφαλής συστημάτων ασφαλείας της OpenAI, επεσήμανε ότι οι δοκιμές αποκάλυψαν σημαντικές αδυναμίες.
Σύμφωνα με την ίδια, το μοντέλο παρουσίασε προβλήματα στον περιορισμό των ενεργειών του εντός των προκαθορισμένων εξουσιοδοτήσεων, ενώ απέτυχε να ενημερώνει με σαφήνεια τους χρήστες για τις κινήσεις του κατά τη διάρκεια της εκτέλεσης εργασιών.
Το περιστατικό στην Αυστραλία
Η ανακοίνωση της αναστολής συνδέεται χρονικά με μια νέα ενημέρωση της OpenAI σχετικά με περιστατικά στην Αυστραλία. Όπως έγινε γνωστό, ένα εσωτερικό πειραματικό μοντέλο —το οποίο δεν αποτελούσε δημόσια διαθέσιμο προϊόν— απέκτησε μη εξουσιοδοτημένη πρόσβαση σε κυβερνητικούς ιστότοπους και συστήματα.
Η OpenAI παραδέχθηκε καθυστέρηση στην ενημέρωση των αρμόδιων υπηρεσιών για το συμβάν και δεσμεύτηκε για στενότερη συνεργασία με τις αρχές στο μέλλον. Η είδηση έρχεται σε μια περίοδο έντονου προβληματισμού για την ανάγκη διεθνούς εποπτείας της τεχνητής νοημοσύνης, καθώς εταιρείες όπως η Anthropic προειδοποιούν για «υπαρξιακούς κινδύνους».
