Η Anthropic αποκαλύπτει τον μηχανισμό των αόρατων υδατογραφημάτων στο Claude

Η Anthropic προχώρησε σε διευκρινίσεις σχετικά με τον τρόπο που σκοπεύει να εφαρμόσει αόρατα υδατογραφήματα στα κείμενα που παράγει το Claude. Η κίνηση αυτή αποσκοπεί στη συμμόρφωση με τους κανόνες διαφάνειας της Ευρωπαϊκής Ένωσης για την τεχνητή νοημοσύνη (EU AI Act).

Η τεχνολογία SynthID-Text

Το σύστημα σήμανσης κειμένου της Anthropic αποτελεί μια παραλλαγή της προσέγγισης «SynthID-Text». Πρόκειται για μια τεχνολογία ανοιχτού κώδικα που αναπτύχθηκε από την Google DeepMind, η οποία δημιουργεί ανιχνεύσιμα μοτίβα μέσω των πιθανοτήτων επιλογής λέξεων.

Η εφαρμογή αυτής της τεχνολογίας, μαζί με την υποστήριξη του προτύπου C2PA για εικόνες, αποτελεί μέρος των υποχρεώσεων της Anthropic βάσει της Πράξης για την Τεχνητή Νοημοσύνη της ΕΕ. Η νομοθεσία απαιτεί το συνθετικό περιεχόμενο (ήχοι, εικόνες, βίντεο και κείμενο) να φέρει μηχανικά αναγνώσιμα σήματα που να επιτρέπουν την ανίχνευσή του ως προϊόν τεχνητής νοημοσύνης.

Πώς λειτουργεί στην πράξη

Σύμφωνα με την Anthropic, η διαδικασία βασίζεται σε επιλογές χαμηλού ρίσκου κατά τη γέννηση του κειμένου. Για παράδειγμα, σε μια φράση όπως «Ο καιρός σήμερα ήταν κρύος και...», το μοντέλο μπορεί να επιλέξει ανάμεσα στις λέξεις «συννεφιασμένος» ή «γκρίζος». Ενώ το νόημα παραμένει το ίδιο, η τελική επιλογή καθορίζεται συνήθως από έναν τυχαίο αριθμό.

Με το υδατογράφημα, η πηγή αυτής της τυχαιότητας αλλάζει. Αντί για έναν αυθαίρετο αριθμό, χρησιμοποιείται ένα «κλειδί» και οι προηγούμενες λέξεις για να καθοριστεί η επόμενη επιλογή. Αυτό δημιουργεί ένα μοτίβο αόρατο στον αναγνώστη, αλλά ανιχνεύσιμο από όποιον κατέχει το κλειδί κωδικοποίησης.

Επιπτώσεις και ανταγωνισμός

Η εταιρεία διαβεβαιώνει ότι τα υδατογραφήματα:

• Δεν θα αυξήσουν το κόστος για τους χρήστες.
• Δεν θα έχουν πρακτικό αντίκτυπο στην ποιότητα ή το περιεχόμενο των απαντήσεων του Claude.

Η Anthropic δεν είναι η μόνη που υιοθετεί τέτοιες λύσεις. Το Gemini της Google υποστηρίζει το SynthID-Text από το 2024, ενώ και η OpenAI θα κληθεί να συμμορφωθεί με τις απαιτήσεις του νόμου, παρόλο που δεν έχει ακόμη ανακοινώσει λεπτομέρειες για το ChatGPT.