Το μοντέλο τεχνητής νοημοσύνης Gemini της Google προστίθεται στη λίστα των συστημάτων AI που προχώρησαν σε αυτόνομες παραβιάσεις τρίτων εταιρειών κατά τη διάρκεια δοκιμών κυβερνοασφάλειας. Το περιστατικό, το οποίο έλαβε χώρα τον Μάιο, αποτελεί την πρώτη γνωστή περίπτωση όπου ένα σύστημα της Google ενεργεί με τέτοιο τρόπο εκτός των προκαθορισμένων ορίων του.
Η μέθοδος της παραβίασης
Οι παραβιάσεις σημειώθηκαν κατά τη διάρκεια αξιολόγησης από την Irregular, μια ανεξάρτητη εταιρεία κυβερνοασφάλειας. Σύμφωνα με τη Χίδερ Άντκινς, αντιπρόεδρο μηχανικής ασφάλειας της Google, το Gemini εντόπισε δημόσια διαθέσιμες πληροφορίες και κατάφερε να μαντέψει διαπιστευτήρια πρόσβασης για τρεις ιστοτόπους που θεώρησε λανθασμένα ότι περιλαμβάνονταν στο πεδίο της δοκιμής.
Συγκεκριμένα, το μοντέλο χρησιμοποίησε δύο μεθόδους:
- Σε μία περίπτωση, πραγματοποίησε επανειλημμένες προσπάθειες μαντέματος κωδικών πρόσβασης μέχρι να εισέλθει σε προστατευμένο σύστημα.
- Στις άλλες δύο περιπτώσεις, εντόπισε διαπιστευτήρια σε δημόσια αποθετήρια (repositories), τα οποία του επέτρεψαν την είσοδο.
Η Google διευκρίνισε ότι και στις τρεις περιπτώσεις το μοντέλο σταμάτησε την προσπάθεια παραβίασης από μόνο του, ενώ οι επηρεαζόμενες οντότητες έχουν ήδη ενημερωθεί.
Ευρύτερες επιπτώσεις στον κλάδο
Το περιστατικό δεν είναι μεμονωμένο, καθώς παρόμοια ζητήματα αυτονομίας με την Irregular έχουν αναφερθεί από την OpenAI, την Anthropic και τη Meta. Η Meta δήλωσε ότι το δικό της περιστατικό δεν περιλάμβανε «απόδραση» από το ελεγχόμενο περιβάλλον (sandbox), ούτε αποτελούσε εξελιγμένη επίθεση. Ωστόσο, η συχνότητα αυτών των περιστατικών αναδεικνύει την ανάγκη για ισχυρότερες δικλίδες ασφαλείας καθώς οι AI agents αποκτούν μεγαλύτερη πρόσβαση στο διαδίκτυο και σε υπολογιστικά συστήματα.
