Η Κίνα έθεσε σε ισχύ από τις 15 Ιουλίου 2026 ένα νέο αυστηρό πλαίσιο για τις υπηρεσίες τεχνητής νοημοσύνης που προσομοιώνουν την ανθρώπινη προσωπικότητα και παρέχουν συνεχή συναισθηματική αλληλεπίδραση. Το νέο αυτό ρυθμιστικό πλαίσιο, που καταρτίστηκε από την Cyberspace Administration of China και άλλους κρατικούς φορείς, στοχεύει στον περιορισμό της συναισθηματικής εξάρτησης και στην προστασία των κοινωνικών δεσμών από την επέλαση των «ψηφιακών συντρόφων».

Απαγορεύσεις και προστασία ανηλίκων

Οι νέοι κανόνες είναι ιδιαίτερα αυστηροί όσον αφορά τους ανηλίκους. Απαγορεύεται ρητά στις εταιρείες να προσφέρουν σε παιδιά και εφήβους υπηρεσίες που προσομοιώνουν ερωτικές, οικογενειακές ή άλλες στενές σχέσεις. Για παιδιά κάτω των 14 ετών, οποιαδήποτε άλλη μορφή ανθρωπομορφικής αλληλεπίδρασης με AI απαιτεί πλέον τη ρητή συγκατάθεση γονέα ή κηδεμόνα. Οι αρχές εκφράζουν ανησυχίες ότι η έντονη συναισθηματική εμπλοκή με συστήματα AI μπορεί να οδηγήσει σε εθισμό και να παρακωλύσει τη γνωστική και κοινωνική ανάπτυξη των νέων.

Διαφάνεια και «Λειτουργία Ανηλίκων»

Οι πάροχοι υποχρεούνται πλέον να ενημερώνουν τους χρήστες με σαφήνεια ότι συνομιλούν με αλγόριθμο και όχι με άνθρωπο. Αυτές οι υπενθυμίσεις πρέπει να εμφανίζονται κατά την έναρξη της υπηρεσίας, αλλά και όταν το σύστημα εντοπίζει σημάδια υπερβολικής προσκόλλησης. Επιπλέον, εισάγεται η υποχρεωτική «λειτουργία ανηλίκων» (minor mode), η οποία περιλαμβάνει:

  • Περιορισμούς στη διάρκεια χρήσης και τακτικές υπενθυμίσεις για την πραγματική ζωή.
  • Δυνατότητα των γονέων να αποκλείουν συγκεκριμένους χαρακτήρες AI.
  • Περιορισμούς στις αγορές και τις πληρωμές εντός των εφαρμογών.

Προστασία ευαίσθητων δεδομένων

Δεδομένου ότι οι συνομιλίες με AI companions συχνά περιλαμβάνουν εξομολογήσεις για φόβους και προσωπικά προβλήματα, το πλαίσιο επιβάλλει αυστηρή κρυπτογράφηση. Τα δεδομένα αυτά δεν επιτρέπεται να διαβιβάζονται σε τρίτους χωρίς συγκατάθεση, ούτε να χρησιμοποιούνται για την εκπαίδευση μοντέλων AI χωρίς ξεχωριστή άδεια από τον χρήστη. Σε περίπτωση παραβάσεων, οι αρχές μπορούν να επιβάλουν πρόστιμα, να περιορίσουν τις εγγραφές νέων χρηστών ή ακόμη και να διακόψουν οριστικά τη λειτουργία της υπηρεσίας.