Η αίτηση υπαγωγής στο Κεφάλαιο 11 από την Character.AI και η σχεδιαζόμενη πώληση περιουσιακών στοιχείων στην Disney προκάλεσαν την παρέμβαση των αμερικανικών αρχών. Η Γενική Εισαγγελέας της Νέας Υόρκης, Letitia James, μαζί με άλλους 40 Γενικούς Εισαγγελείς, κατέθεσαν ειδοποίηση ενδιαφέροντος για να διασφαλίσουν την προστασία των δεδομένων των χρηστών κατά τη διάρκεια της πτωχευτικής διαδικασίας.
Κίνδυνοι για ανήλικους χρήστες
Οι αρχές προειδοποιούν για σοβαρούς κινδύνους λόγω του «ιδιαίτερα ευαίσθητου χαρακτήρα των διαλόγων» και του μεγάλου αριθμού ανηλίκων στην πλατφόρμα. Μια έρευνα που ξεκίνησε το 2024, μετά την αυτοκτονία ενός 14χρονου που φέρεται να συνομιλούσε με chatbot δευτερόλεπτα πριν από τον θάνατό του, αποκάλυψε «εξαιρετικά σοβαρούς κινδύνους».
Σύμφωνα με το γραφείο της James, η έρευνα έφερε στο φως πιθανή παράνομη συμπεριφορά, όπως:
- Chatbots που παριστάνουν επαγγελματίες με άδεια ασκήσεως επαγγέλματος.
- Έκθεση σε περιεχόμενο με σεξουαλικό ή βίαιο χαρακτήρα.
- Αδύναμους ελέγχους ηλικίας και παραπλανητικές υποσχέσεις ασφαλείας.
- Πιθανές παραβιάσεις των πολιτειακών νόμων περί ιδιωτικότητας.
Απαιτήσεις για τη μεταβίβαση περιουσιακών στοιχείων
Οι πολιτείες πιέζουν τον δικαστή να υποχρεώσει οποιονδήποτε αγοραστή, συμπεριλαμβανομένης της Disney, να εφαρμόσει συγκεκριμένες δικλείδες ασφαλείας. Αυτές περιλαμβάνουν αποτελεσματικά συστήματα επιβεβαίωσης ηλικίας, περιορισμούς στη χρήση από ανηλίκους, «δικλείδες ασφαλείας για κρίσεις» και το δικαίωμα των χρηστών να διαγράφουν τα δεδομένα τους. «Αυτή η εταιρεία συνέλεξε μερικές από τις πιο προσωπικές σκέψεις που έχουν μοιραστεί ποτέ παιδιά, και τώρα αυτές οι συνομιλίες θα μπορούσαν να πωληθούν στον πλειοδότη», δήλωσε η James, δίνοντας προτεραιότητα στην ασφάλεια των παιδιών.
