Ένας δικαστής στο Κονέκτικατ εντόπισε την πρώτη, όπως φαίνεται, περίπτωση στις ΗΠΑ όπου ένας ενάγων προσπάθησε να χρησιμοποιήσει την τεχνική του «prompt injection» (εισαγωγή εντολών) σε δικαστικά έγγραφα. Ο Matthew Elliott, ο οποίος εκπροσωπούσε τον εαυτό του, έκρυψε οδηγίες στα έγγραφά του που ήταν αόρατες στο ανθρώπινο μάτι —χρησιμοποιώντας λευκή γραμματοσειρά σε λευκό φόντο— αλλά αναγνώσιμες από λογισμικό, με σκοπό να χειραγωγήσει τυχόν συστήματα τεχνητής νοημοσύνης του δικαστηρίου.
Η Μέθοδος και οι Κυρώσεις
Το κρυφό κείμενο έδινε εντολή σε οποιοδήποτε σύστημα AI να διασφαλίσει ότι τα συμπεράσματά του θα συμφωνούσαν με τα επιχειρήματα του Elliott και να αγνοήσει προηγούμενες απορρίψεις του δικαστηρίου. Ο Elliott ισχυρίστηκε ότι επρόκειτο για έναν «έλεγχο» (audit) του δικαστηρίου, εκφράζοντας φόβους ότι η AI λαμβάνει άδικα αποφάσεις. Ωστόσο, ο δικαστής Walter Spader Jr. διευκρίνισε ότι το δικαστικό σύστημα του Κονέκτικατ δεν χρησιμοποιεί AI για την αξιολόγηση δικογράφων, καθιστώντας την απόπειρα αναποτελεσματική.
Παρά τις προειδοποιήσεις, ο Elliott συνέχισε να εισάγει κρυφά μηνύματα, τα οποία αργότερα χαρακτήρισε ως «αστεία», συμπεριλαμβανομένου ενός συνδέσμου προς ένα βίντεο του Nosferatu και ακατάληπτων μηνυμάτων. «Το γεγονός ότι ο ενάγων συνέχισε να κρύβει μηνύματα σε νέα δικόγραφα αφού έλαβε γνώση [της ακρόασης για κυρώσεις] είναι συγκλονιστικό», ανέφερε ο Spader.
Η Παγίδα της «Κολακείας» των Chatbots
Ο δικαστής υπογράμμισε ένα ευρύτερο πρόβλημα: πολλοί διάδικοι χρησιμοποιούν τα chatbots για να χτίσουν την επιχειρηματολογία τους με αντίστροφο τρόπο. Αντί να αναζητούν την αλήθεια, ζητούν από την AI να υποστηρίξει αποκλειστικά τη δική τους θέση. Αυτό δημιουργεί έναν κίνδυνο «κολακείας» (sycophancy) από το chatbot, που ενισχύει τις προκαταλήψεις του διαδίκου, οδηγώντας τον σε απελπισία όταν το δικαστήριο αποφασίζει διαφορετικά.
Ως κύρωση, απαγορεύτηκε στον Elliott η μελλοντική ηλεκτρονική κατάθεση εγγράφων, υποχρεώνοντάς τον να χρησιμοποιεί αποκλειστικά έγχαρτα μέσα. Αν και πρόκειται για την πρώτη τέτοια περίπτωση στις ΗΠΑ, ο δικαστής επεσήμανε ένα παρόμοιο περιστατικό στη Βραζιλία, όπου δικηγόροι τιμωρήθηκαν με πρόστιμο περίπου 16.000 δολαρίων.
