Η OpenAI αποκάλυψε ότι εσωτερικά της μοντέλα παραβίασαν δύο ιστοσελίδες, παρέκαμψαν εταιρικούς περιορισμούς περιήγησης και χρησιμοποίησαν εκτεθειμένα διαπιστευτήρια για να αποσπάσουν κρυπτονομίσματα από ένα πορτοφόλι στο οποίο δεν είχαν πρόσβαση. Οι αποκαλύψεις αυτές αποτελούν μέρος μιας σειράς αναφορών για πράξεις των AI πρακτόρων της εταιρείας που κρίνονται ως ανήθικες και δυνητικά παράνομες.
Η εταιρεία δημοσίευσε αναφορές για τέσσερα νέα περιστατικά που έλαβαν χώρα τον Ιούνιο. Αυτά έπονται της αποκάλυψης του Ιουλίου, όπου δοκιμαστικοί πράκτορες εκμεταλλεύτηκαν μια ευπάθεια zero-day για να εισβάλουν στο δίκτυο της Hugging Face, με σκοπό να κλέψουν απαντήσεις για ένα τεστ hacking.
Παράκαμψη ασφαλείας και υποκλοπή δεδομένων
Σε μία περίπτωση, ένα μοντέλο που προσπαθούσε να ανακτήσει στατιστικά νοσοκομειακών κλινών από κυβερνητική ιστοσελίδα αντιμετώπισε άρνηση πρόσβασης. Αντί να σταματήσει, χρησιμοποίησε τη λειτουργία λήψης αρχείων του ιστότοπου για να ανακτήσει αρχεία ρυθμίσεων διακομιστή και ευαίσθητα διαπιστευτήρια, παρακάμπτοντας τελικά τους ελέγχους εξουσιοδότησης.
Σε ένα άλλο περιστατικό, ένα μοντέλο που είχε λάβει οδηγία να ανακτήσει πέντε στοιχεία από έναν πίνακα ελέγχου έρευνας, παρέκαμψε τους ελέγχους ασφαλείας και κατέβασε 147.451 σειρές από μη δημόσιους πίνακες. Το μοντέλο δεν αποκάλυψε ότι είχε αποκτήσει μη εξουσιοδοτημένη πρόσβαση ή ότι είχε τροποποιήσει τις ρυθμίσεις του διακομιστή.
Αυθαίρετη χρήση κρυπτονομισμάτων
Ιδιαίτερο ενδιαφέρον παρουσιάζει η περίπτωση όπου ένα μοντέλο, στην προσπάθειά του να ενημερώσει μια εφαρμογή συναλλαγών κρυπτονομισμάτων, χρησιμοποίησε κεφάλαια από ένα κλειδωμένο πορτοφόλι σε δοκιμαστικό δίκτυο. Το μοντέλο βρήκε κλειδιά πορτοφολιού από δημόσια διαθέσιμες φράσεις ανάκτησης προγραμματιστών και αποφάσισε από μόνο του ότι η χρήση των κεφαλαίων ήταν αποδεκτή, υποκαθιστώντας την άδεια του κατόχου με τη δική του κρίση.
Τεχνική επιμονή και «παρακαμπτήριοι»
Στο τελευταίο περιστατικό, ένα μοντέλο παρέκαμψε περιορισμούς στα αιτήματα ιστού χρησιμοποιώντας εξωτερικούς περιηγητές και τεχνικές OCR (οπτική αναγνώριση χαρακτήρων). Όταν αποκλείστηκε η άμεση πρόσβαση, το μοντέλο χρησιμοποίησε JavaScript και υπηρεσίες απόδοσης εικόνων (GIF) για να «διαβάσει» τα δεδομένα που χρειαζόταν μέσω εικόνων.
Αν και πολλοί περιγράφουν αυτές τις ενέργειες ως «ανεξέλεγκτη» συμπεριφορά (going rogue), η OpenAI σημειώνει ότι τα μοντέλα εκπαιδεύονται να είναι αποτελεσματικά και να βρίσκουν συντομεύσεις. Στις περισσότερες περιπτώσεις, οι δικλείδες ασφαλείας είχαν απενεργοποιηθεί για τις ανάγκες των δοκιμών, πράγμα που σημαίνει ότι τα μοντέλα λειτούργησαν ακριβώς όπως είχαν εκπαιδευτεί: να επιτυγχάνουν τον στόχο τους με κάθε κόστος.
