Δύο Αμερικανοί γερουσιαστές απέστειλαν επιστολή προς την ηγεσία του TikTok, απαιτώντας απαντήσεις για ένα πείραμα της εταιρείας που απέσυρε δικλείδες ασφαλείας από εκατομμύρια χρήστες. Οι γερουσιαστές Marsha Blackburn και Richard Blumenthal χαρακτήρισαν την απόφαση της εταιρείας «διεστραμμένη», καθώς το πείραμα περιλάμβανε και έναν έφηβο που έχασε τη ζωή του από αυτοκτονία.
Η ανατομία ενός πειράματος
Σύμφωνα με εμπιστευτικό έγγραφο του 2023 που ήρθε στο φως από το Bloomberg Businessweek, το TikTok απενεργοποίησε σκόπιμα έναν αλγοριθμικό μηχανισμό προστασίας για το 10% των χρηστών του στις ΗΠΑ, μετατρέποντάς τους σε «ομάδα ελέγχου». Ο μηχανισμός αυτός είχε σχεδιαστεί για να διασπά τις ψηφιακές «φούσκες» (echo chambers) επιβλαβούς περιεχομένου. Την εποχή εκείνη, η ομάδα ελέγχου αριθμούσε περίπου 15 εκατομμύρια άτομα.
Ένας από αυτούς τους χρήστες ήταν ο 16χρονος Chase Nasca. Όπως αποκαλύπτει το έγγραφο, ο λογαριασμός του τροφοδοτήθηκε με χιλιάδες βίντεο που αφορούσαν την απόγνωση, τη μοναξιά και την αυτοκτονία. Ο Nasca επιλέχθηκε τυχαία για το πείραμα στις 25 Ιανουαρίου 2022 και αυτοκτόνησε μέσα σε διάστημα ενός μήνα.
Κέρδη έναντι ασφάλειας
Το εσωτερικό έγγραφο της εταιρείας παραδέχεται ότι η απόφαση ήταν μια «λεπτή ισορροπία μεταξύ της ασφάλειας και της ικανότητας μέτρησης του αντίκτυπου στους καθημερινούς ενεργούς χρήστες (DAU) και τους βασικούς δείκτες». Η επιστολή των γερουσιαστών τονίζει ότι η αποκάλυψη αυτή εγείρει σοβαρά ερωτήματα σχετικά με τις διαβεβαιώσεις της εταιρείας προς το Κογκρέσο ότι προτεραιότητα έχει η ευημερία των νέων.
Οι γερουσιαστές ζητούν απαντήσεις σε 13 ερωτήματα έως την 1η Σεπτεμβρίου, συμπεριλαμβανομένων των ονομάτων των υπαλλήλων που γνώριζαν για το πείραμα και μιας εξήγησης για τη συμμετοχή ανηλίκων σε αυτό.
Νομοθετικές επιπτώσεις
Η υπόθεση έχει δώσει νέα ώθηση στον Νόμο για την Ασφάλεια των Παιδιών στο Διαδίκτυο (KOSA). Η Blackburn υποστηρίζει ότι η διάταξη περί «καθήκοντος επιμέλειας» (duty-of-care) θα υποχρέωνε τις πλατφόρμες να δίνουν προτεραιότητα στην ασφάλεια κατά τον σχεδιασμό των προϊόντων τους, εμποδίζοντας παρόμοια πειράματα στο μέλλον.
