Η Google αναγκάστηκε να αποσύρει εσπευσμένα μια νέα λειτουργία τεχνητής νοημοσύνης από το Google Earth, η οποία επέτρεπε τη δημιουργία κατασκευασμένων δορυφορικών εικόνων πάνω σε πραγματικές τοποθεσίες και γεωγραφικές συντεταγμένες. Η κίνηση αυτή ακολούθησε έντονες αντιδράσεις από ερευνητές OSINT (Open Source Intelligence), οι οποίοι διαπίστωσαν ότι το εργαλείο μπορούσε να χρησιμοποιηθεί για την παραγωγή εξαιρετικά παραπλανητικού περιεχομένου.
Η απειλή για την αξιοπιστία των δεδομένων
Το εργαλείο, το οποίο βασιζόταν στο μοντέλο Nano Banana 2 της Google, επέτρεπε στους χρήστες να προσθέτουν στοιχεία όπως βομβαρδισμένες γειτονιές, προσφυγικούς καταυλισμούς ή ακόμη και πυρηνικές εγκαταστάσεις σε αυθεντικούς χάρτες. Ο ερευνητής Hank Van Ess επισήμανε ότι ο κίνδυνος έγκειται στο γεγονός ότι η πλαστογραφία «κληρονομεί την αξιοπιστία του χάρτη πάνω στον οποίο δημιουργήθηκε».
Σε δοκιμές που πραγματοποιήθηκαν, η AI ανταποκρίθηκε σε αιτήματα για απεικόνιση του Λευκού Οίκου σε εμπόλεμη ζώνη με «αίμα και νεκρούς στρατιώτες», ενώ άλλοι χρήστες δημιούργησαν εικόνες με βάσεις πυραύλων στην Κούβα και κρατήρες από βόμβες στο Κρεμλίνο.
Η αποτυχία των δικλίδων ασφαλείας
Παρά τους ισχυρισμούς της Google ότι οι εικόνες φέρουν το ψηφιακό υδατογράφημα SynthID για την ταυτοποίησή τους, η πραγματικότητα αποδείχθηκε διαφορετική. Ο Tal Hagin, επικεφαλής της πλατφόρμας Golden Owl, διαπίστωσε ότι ακόμη και το Gemini, το chatbot της Google, δεν μπορούσε να επιβεβαιώσει με βεβαιότητα εάν μια εικόνα είχε δημιουργηθεί από AI.
Η Google ανακοίνωσε την προσωρινή απόσυρση της λειτουργίας, δηλώνοντας ότι εργάζεται για την εφαρμογή ισχυρότερων μηχανισμών ασφαλείας, αναγνωρίζοντας την ιδιαίτερη εμπιστοσύνη που δείχνει το κοινό στο Google Earth ως αξιόπιστο αρχείο του πλανήτη.
