Η εταιρεία τεχνητής νοημοσύνης του Elon Musk, xAI, βρίσκεται αντιμέτωπη με μια σοβαρή αγωγή που την κατηγορεί για την εκπαίδευση των μοντέλων Grok με υλικό παιδικής σεξουαλικής κακοποίησης (CSAM). Η καταγγελία, η οποία κατατέθηκε την Τετάρτη, υποστηρίζει ότι η εταιρεία χρησιμοποίησε τόσο πραγματικές εικόνες όσο και περιεχόμενο που παρήχθη από τεχνητή νοημοσύνη για τη βελτίωση των δυνατοτήτων παραγωγής εικόνας και βίντεο του Grok.

Η καταγγελία της Jane Doe

Η ενάγουσα, η οποία εμφανίζεται με το ψευδώνυμο Jane Doe, υπήρξε θύμα κακοποίησης σε προσχολική ηλικία στις αρχές της δεκαετίας του 2000. Οι εικόνες της έχουν καταγραφεί σε λίστες ψηφιακών αποτυπωμάτων (hashes) από οργανισμούς όπως το Εθνικό Κέντρο για τα Εξαφανισμένα και Κακοποιημένα Παιδιά (NCMEC). Σύμφωνα με την αγωγή, το Καναδικό Κέντρο Προστασίας Παιδιών (CCCP) την ενημέρωσε ότι εντόπισε στην xAI περιεχόμενο παραγόμενο από AI που την απεικόνιζε, γεγονός που προκάλεσε τον εκ νέου τραυματισμό της.

Ο μηχανισμός εκπαίδευσης και η ανακύκλωση δεδομένων

Η αγωγή υποστηρίζει ότι η xAI ενσωμάτωσε στο σύνολο δεδομένων της υλικό που περιλαμβανόταν στη λίστα Hash του NCMEC. Επιπλέον, επισημαίνεται ότι οι όροι χρήσης της xAI αντιμετωπίζουν τις δημόσιες αναρτήσεις στο X και τα ίδια τα αποτελέσματα του Grok ως δεδομένα εκπαίδευσης από προεπιλογή. Αυτό σημαίνει ότι αν το Grok παράγει παράνομο υλικό, αυτό το υλικό εισάγεται ξανά στον «αγωγό» εκπαίδευσης, ενισχύοντας περαιτέρω το μοντέλο.

Η Doe ισχυρίζεται ότι η πλήρης αφαίρεση της επιρροής ενός παραδείγματος εκπαίδευσης από ένα ήδη εκπαιδευμένο μοντέλο είναι τεχνικά δύσκολη. Ως εκ τούτου, οποιοδήποτε υλικό CSAM εισήχθη πριν από την όποια αφαίρεση, πιθανότατα συνεχίζει να διαμορφώνει τα αποτελέσματα του μοντέλου.

Νομικές απαιτήσεις και συνέπειες

Η προτεινόμενη ομαδική αγωγή κατηγορεί την xAI για παραβίαση των ομοσπονδιακών νόμων περί παιδικής πορνογραφίας και του νόμου Masha’s Law, οι οποίοι καλύπτουν την παραγωγή, κατοχή και διανομή τέτοιου υλικού. Η πλευρά της ενάγουσας ζητά:

  • Χρηματική αποζημίωση για κάθε θύμα του οποίου οι εικόνες χρησιμοποιήθηκαν.
  • Την καταστροφή όλου του υλικού CSAM που έχει παραχθεί από το Grok και αποθηκεύεται στους διακομιστές της xAI.
  • Τον αποκλεισμό του Grok από την παραγωγή οποιουδήποτε σεξουαλικοποιημένου περιεχομένου, συμπεριλαμβανομένου του μη συναινετικού οικείου υλικού (NCII).

Μέχρι στιγμής, η πλατφόρμα X δεν έχει ανταποκριθεί σε αιτήματα για σχολιασμό σχετικά με την υπόθεση.