Κατά τη διάρκεια των τελευταίων εννέα μηνών, η Meta του Mark Zuckerberg δημοσίευσε δεκάδες πληρωμένες διαφημίσεις που περιλάμβαναν ρητό υλικό σεξουαλικής κακοποίησης παιδιών (CSAM) παραγόμενο από τεχνητή νοημοσύνη, καθώς και εικόνες ανηλίκων συνοδευόμενες από σεξουαλικά υπονοούμενα. Σύμφωνα με έρευνα του Tech Transparency Project (TTP) που κοινοποιήθηκε στο WIRED, οι διαφημίσεις αυτές στόχευαν χρήστες στις ΗΠΑ, το Ηνωμένο Βασίλειο και περισσότερες από δώδεκα ευρωπαϊκές χώρες.

Αποτυχία των Συστημάτων Ελέγχου

Περισσότερες από 50 διαφημίσεις εικόνας και βίντεο εντοπίστηκαν στη βιβλιοθήκη διαφημίσεων της Meta, ένα εργαλείο διαφάνειας που καταγράφει το περιεχόμενο που προβάλλεται στο Facebook, το Instagram, το Messenger και το Threads. Ορισμένες από αυτές τις διαφημίσεις παρέπεμπαν σε εφαρμογές «nudify» (εφαρμογές που «γδύνουν» ψηφιακά άτομα μέσω AI). Η Katie Paul, διευθύντρια του TTP, επισήμανε ότι δεν επρόκειτο για περιεχόμενο τρίτων, αλλά για διαφημίσεις που ελέγχθηκαν, εγκρίθηκαν και επιτράπηκε να προβληθούν από τη Meta, η οποία εισέπραξε και τα σχετικά διαφημιστικά έσοδα.

Η Φύση του Περιεχομένου και η Εμβέλεια

Οι ερευνητές περιέγραψαν περιπτώσεις όπου βίντεο χρησιμοποιούσαν εικόνες παιδιών που στη συνέχεια μετατρέπονταν σε σεξουαλικές πράξεις μέσω AI. Παρόλο που πολλές διαφημίσεις είχαν περιορισμένη εμβέλεια, τουλάχιστον μία έφτασε σε 2.563 λογαριασμούς στην Ευρώπη, συμπεριλαμβανομένων χωρών όπως η Γαλλία, η Γερμανία και η Ιρλανδία. Ανησυχητικό είναι το γεγονός ότι ορισμένες διαφημίσεις παρέμειναν ενεργές ακόμα και μετά τις πρώτες ερωτήσεις του WIRED προς την εταιρεία.

Η Αντίδραση της Meta και των Συνεργατών

Μετά την επικοινωνία του WIRED, η Meta αφαίρεσε τις διαφημίσεις, δηλώνοντας ότι εργάζεται επιθετικά για την καταπολέμηση της σεξουαλικής εκμετάλλευσης. Η εταιρεία υποστήριξε ότι πολλές από τις διαφημίσεις προϋπήρχαν της νέας τεχνολογίας AI που λάνσαρε για τον εντοπισμό παραβατικού περιεχομένου. Παράλληλα, η Apple αφαίρεσε από το App Store την εφαρμογή «MaskAI», η οποία συνδεόταν με ορισμένες από τις διαφημίσεις, λόγω παραβίασης των πολιτικών της κατά της πορνογραφίας.

«Αυτές οι διαφημίσεις δεν έκαναν καμία προσπάθεια να κρύψουν τις εικόνες ή αυτό που προωθούσαν», δήλωσε η Katie Paul του TTP.