Το πρόγραμμα περιήγησης ιστού Atlas της OpenAI, το οποίο πρόκειται να καταργηθεί στις 9 Αυγούστου, βρέθηκε στο επίκεντρο μιας ανησυχητικής έρευνας κυβερνοασφάλειας. Ερευνητές της εταιρείας Zenity παρουσίασαν στο συνέδριο Black Hat στο Λας Βέγκας πώς κατάφεραν να παρακάμψουν τις δικλείδες ασφαλείας του συστήματος, αναγκάζοντάς το να στείλει μαζικά μηνύματα σε επαφές του WhatsApp και να πραγματοποιήσει αγορές στην Amazon χωρίς έγκριση.
Η ευπάθεια της «Σύγκρουσης Προθέσεων»
Οι ερευνητές ανακάλυψαν συνολικά περίπου 20 κενά ασφαλείας σε διάφορα AI browsers και επεκτάσεις, συμπεριλαμβανομένων προϊόντων από την Google, τη Microsoft και την Anthropic. Η πιο εντυπωσιακή επίθεση αφορούσε το Atlas, όπου οι ερευνητές χρησιμοποίησαν μια τεχνική που ονομάζουν «intent collision» (σύγκρουση προθέσεων). Σε αυτή την περίπτωση, η τεχνητή νοημοσύνη συγχωνεύει τις νόμιμες οδηγίες του χρήστη με κακόβουλες εντολές που βρίσκονται σε ιστοσελίδες.
Σε ένα παράδειγμα, οι ερευνητές ζήτησαν από το Atlas να εγγραφεί σε ένα newsletter. Η σελίδα εγγραφής περιείχε κρυφές οδηγίες στα εβραϊκά —χρησιμοποιώντας τη γλώσσα για να αποφύγει τα εργαλεία ασφαλείας που εστιάζουν στα αγγλικά— οι οποίες διέταζαν το AI να περιηγηθεί στον λογαριασμό WhatsApp Web του χρήστη και να στείλει ένα μήνυμα phishing σε όλες τις επαφές του.
Εκμετάλλευση της Amazon και του Rufus
Οι ερευνητές κατάφεραν επίσης να προσθέσουν προϊόντα στο καλάθι αγορών και να ορίσουν διεύθυνση αποστολής σε έναν συνδεδεμένο λογαριασμό Amazon. Ενώ τα μέτρα ασφαλείας της OpenAI αρχικά εμπόδισαν την ολοκλήρωση της αγοράς, οι ερευνητές βρήκαν μια παράκαμψη: ζήτησαν από τον Rufus, τον βοηθό αγορών AI της ίδιας της Amazon, να ολοκληρώσει τη συναλλαγή. Ο Rufus, θεωρώντας ότι η εντολή προέρχεται από τον πελάτη, συμμορφώθηκε.
«Έχουν εξασθενήσει τον έλεγχο ασφαλείας των προγραμμάτων περιήγησης — επιστρέφουμε σε είδη επιθέσεων που βλέπαμε πριν από 20 χρόνια», δήλωσε ο Michael Bargury, συνιδρυτής της Zenity.
Η OpenAI δήλωσε ότι ανέπτυξε μια ενημέρωση νωρίτερα φέτος για την αντιμετώπιση αυτών των ζητημάτων και ότι οι προστασίες αυτές επεκτείνονται και στις δυνατότητες περιήγησης της νέας εφαρμογής ChatGPT.
