Η OpenAI ανακοίνωσε ότι θα ξεκινήσει την αυτόματη προσθήκη υδατογραφημάτων στα κείμενα που παράγονται από το ChatGPT εντός της Ευρωπαϊκής Ένωσης. Ενώ η λειτουργία θα προσφέρεται και σε άλλες περιοχές, θα παραμείνει απενεργοποιημένη από προεπιλογή εκτός των συνόρων της ΕΕ.

Συμμόρφωση με την Πράξη για την Τεχνητή Νοημοσύνη

Η απόφαση αυτή υπαγορεύεται από την ανάγκη συμμόρφωσης με την Πράξη της ΕΕ για την Τεχνητή Νοημοσύνη (EU AI Act), η οποία τέθηκε σε ισχύ τον Αύγουστο. Η νομοθεσία απαιτεί τη σήμανση του περιεχομένου που παράγεται από μοντέλα AI με τρόπο που να είναι ανιχνεύσιμος από άλλα εργαλεία. Ωστόσο, η βιομηχανία εξακολουθεί να στερείται μιας απόλυτα αξιόπιστης μεθόδου για αυτόν τον σκοπό.

Η τεχνολογία textGrain και οι περιορισμοί της

Η OpenAI χρησιμοποιεί μια ιδιόκτητη μέθοδο που ονομάζει textGrain. Σύμφωνα με την τεχνική ανάλυση της εταιρείας, το σύστημα εισάγει συγκεκριμένα μοτίβα στις επιλογές των λέξεων. Αυτά τα μοτίβα δεν είναι ορατά στον άνθρωπο και δεν επηρεάζουν την ποιότητα του κειμένου, αλλά μπορούν να εντοπιστούν από έναν εξειδικευμένο ανιχνευτή.

Παρά τις προσδοκίες, η αξιοπιστία της μεθόδου αμφισβητείται:

  • Ενώ η OpenAI αναφέρει ποσοστό επιτυχίας 92% σε ιδανικές συνθήκες, η τροποποίηση μόλις του 10% του κειμένου μειώνει την ανίχνευση κατά σχεδόν 30%.
  • Αλλαγή του 20% του κειμένου μπορεί να ρίξει το ποσοστό επιτυχίας κατά σχεδόν 75%.
  • Η ανίχνευση είναι λιγότερο αποτελεσματική σε σύντομα κείμενα ή σε μεταφρασμένο περιεχόμενο.

Η πρόσβαση στο εργαλείο ανίχνευσης θα δοθεί αρχικά σε περιορισμένο αριθμό ερευνητών και οργανισμών, ενώ οι υπόλοιποι ενδιαφερόμενοι θα πρέπει να ακολουθήσουν μια διαδικασία έγκρισης.

Ανταγωνισμός και εφαρμογή

Σε αντίθεση με την OpenAI, η ανταγωνίστρια Anthropic εφάρμοσε το υδατογράφημα παγκοσμίως από τον Αύγουστο. Η OpenAI επιλέγει να το καταστήσει προεπιλογή μόνο όπου το απαιτούν οι ρυθμιστικές αρχές, συγκεκριμένα στις εφαρμογές ChatGPT και Codex. Στο API της εταιρείας, η λειτουργία θα παραμείνει προαιρετική. Τα υδατογραφήματα αναμένεται να κυκλοφορήσουν στους χρήστες της ΕΕ «τις επόμενες εβδομάδες».