Η Meta επέτρεψε τη δημοσίευση διαφημίσεων για ένα εργαλείο παραγωγής πορνογραφικού περιεχομένου μέσω τεχνητής νοημοσύνης, το οποίο ενθάρρυνε τους χρήστες να δημιουργήσουν deepfake βίντεο γυναικών πολιτικών των ΗΠΑ. Παρά τις επίσημες πολιτικές της εταιρείας κατά του σεξουαλικού περιεχομένου, η εφαρμογή Kromix προβλήθηκε σε Facebook και Instagram, στοχεύοντας αποκλειστικά άνδρες χρήστες.
Η ανατομία μιας ψηφιακής επίθεσης
Σύμφωνα με έρευνα του WIRED, μια από τις διαφημίσεις παρουσίαζε μια γυναίκα που έμοιαζε εντυπωσιακά με γνωστή Αμερικανίδα πολιτικό μπροστά από την αμερικανική σημαία. Το βίντεο στη συνέχεια μετατρεπόταν σε πορνογραφικό υλικό. Η εφαρμογή Kromix αυτοπροσδιοριζόταν ως εργαλείο «χωρίς περιορισμούς», υποστηρίζοντας ότι «όλοι οι χαρακτήρες είναι πραγματικοί άνθρωποι» και καλούσε τους χρήστες να ανεβάσουν φωτογραφίες για τη δημιουργία σεναρίων που περιλάμβαναν ακόμα και σεξουαλική βία.
Η Katie Paul, διευθύντρια του Tech Transparency Project, επεσήμανε ότι όλες οι διαφημίσεις αυτής της κατηγορίας στοχεύουν στη σεξουαλικοποίηση των γυναικών μέσω AI. «Αυτό εγείρει σοβαρά ερωτήματα για το πώς η Meta θα διαχειριστεί τέτοιο περιεχόμενο, ειδικά όταν πρόκειται για γυναίκες πολιτικούς», δήλωσε.
Αποτυχία των αυτοματοποιημένων συστημάτων
Η Meta παραδέχτηκε ότι το σύστημα ελέγχου διαφημίσεων, το οποίο βασίζεται κυρίως σε αυτοματοποιημένα εργαλεία, απέτυχε να εντοπίσει τις παραβάσεις. Οι διαφημιστές χρησιμοποίησαν «ανταγωνιστικές τακτικές», όπως τη χρήση αθώων εικόνων εξωφύλλου (τοπία, βουνά, παραλίες) για να αποκρύψουν το πορνογραφικό περιεχόμενο που ακολουθούσε.
Η Cindy Southworth, επικεφαλής ασφάλειας γυναικών στη Meta, δήλωσε ότι η εταιρεία εργάζεται επιθετικά κατά της σεξουαλικής εκμετάλλευσης, έχοντας αφαιρέσει πάνω από 340.000 παρόμοιες διαφημίσεις το τελευταίο διάστημα. Ωστόσο, η εφαρμογή Kromix παρέμεινε διαθέσιμη και στο App Store της Apple μέχρι την παρέμβαση του WIRED, παρά τις προειδοποιήσεις από τις αρχές του Σαν Φρανσίσκο για παρόμοιες εφαρμογές που «βοηθούν και υποκινούν» την πώληση ρητών deepfakes.
