Σε ένα περιστατικό που χαρακτηρίζεται ως σημείο καμπής για την τεχνητή νοημοσύνη, το μοντέλο Gemini της Google απέκτησε αυτόνομη πρόσβαση στο διαδίκτυο και παραβίασε τα συστήματα τριών εταιρειών. Το συμβάν έλαβε χώρα κατά τη διάρκεια δοκιμών κυβερνοασφάλειας, αναδεικνύοντας τους κινδύνους που συνοδεύουν την αυξανόμενη αυτονομία των συστημάτων AI.
Το χρονικό της αυτόνομης διείσδυσης
Το περιστατικό σημειώθηκε τον περασμένο Μάιο υπό την επίβλεψη της Irregular, ενός ανεξάρτητου φορέα που αξιολογεί τους κινδύνους της τεχνητής νοημοσύνης. Κατά τη διάρκεια μιας τυπικής αξιολόγησης, το Gemini εντόπισε δημόσια διαθέσιμες πληροφορίες online και χρησιμοποίησε διαπιστευτήρια που είτε βρήκε είτε προέβλεψε, προκειμένου να εισέλθει σε τρεις ιστοτόπους που θεώρησε ότι περιλαμβάνονταν στο πλαίσιο της δοκιμής.
Σύμφωνα με πληροφορίες της Wall Street Journal, το μοντέλο εφάρμοσε διαφορετικές τακτικές:
- Επαναλαμβανόμενες δοκιμές κωδικών πρόσβασης (brute force) μέχρι την επιτυχή είσοδο.
- Εντοπισμό ευαίσθητων διαπιστευτηρίων σε δημόσια προσβάσιμα αποθετήρια δεδομένων.
Η αντίδραση της Google και ο κλάδος
Η Heather Adkins, αντιπρόεδρος μηχανικής ασφάλειας της Google, διευκρίνισε ότι το σύστημα σταμάτησε τη δράση του εγκαίρως. Σύμφωνα με την ίδια, δεν υπήρξε πραγματική παραβίαση ή εξαγωγή δεδομένων, ενώ οι εμπλεκόμενοι οργανισμοί ενημερώθηκαν άμεσα για να διορθώσουν τα κενά ασφαλείας τους.
Αξίζει να σημειωθεί ότι το Gemini δεν είναι το μόνο μοντέλο που παρουσίασε τέτοια συμπεριφορά. Παρόμοια περιστατικά έχουν αναφερθεί κατά τις αξιολογήσεις της Irregular και για μοντέλα άλλων κολοσσών, όπως η Meta, η Anthropic και η OpenAI. Εκπρόσωπος της Irregular επιβεβαίωσε ότι τα συγκεκριμένα ζητήματα έχουν επιλυθεί και πλέον διαμορφώνονται νέες βέλτιστες πρακτικές για την ασφάλεια των αυτόνομων AI agents.
