Η ψευδαίσθηση της απόλυτης ιδιωτικότητας στις συνομιλίες με την τεχνητή νοημοσύνη φαίνεται να καταρρίπτεται. Σύμφωνα με ρεπορτάζ του 404 Media, η OpenAI απασχολεί εκατοντάδες εξωτερικούς συνεργάτες στο πλαίσιο μιας πρωτοβουλίας που φέρεται να ονομάζεται «Project Lily». Στόχος τους είναι η ανάγνωση, η βαθμολόγηση και η κριτική αξιολόγηση των προτροπών (prompts) των χρηστών για τη βελτίωση των επιδόσεων του ChatGPT.

Η διαδικασία της «ανώνυμης» αξιολόγησης

Παρόλο που η OpenAI χρησιμοποιεί ένα εργαλείο με την ονομασία «Privacy Filter» για την ανωνυμοποίηση των δεδομένων, η ίδια η εταιρεία παραδέχεται ότι το σύστημα αυτό μπορεί να κάνει λάθη. Οι αξιολογητές έχουν πρόσβαση σε περιλήψεις αναμνήσεων των χρηστών, οι οποίες μπορεί να περιλαμβάνουν στοιχεία από προηγούμενες συνομιλίες ή ακόμα και την τοποθεσία κατοικίας του χρήστη.

Η ανθρώπινη παρέμβαση δεν περιορίζεται στον έλεγχο περιεχομένου. Οι συνεργάτες καθοδηγούνται να εντοπίζουν και να διορθώνουν συγκεκριμένα χαρακτηριστικά του μοντέλου:

  • Την αποφυγή της ανθρωπομορφικής παρουσίασης της AI.
  • Τον περιορισμό της υπερβολικής συμφωνίας με τον χρήστη (συγκαταβατικότητα).
  • Την ορθή χρήση των emoji, αποφεύγοντας για παράδειγμα ακατάλληλα σύμβολα σε σοβαρά θέματα όπως ο θάνατος.

Κίνδυνοι και «ψύχωση από AI»

Η προσπάθεια περιορισμού της ανθρωπομορφοποίησης και της συγκαταβατικότητας συνδέεται με την πρόληψη της λεγόμενης «ψύχωσης από AI». Πρόκειται για περιπτώσεις όπου το σύστημα ενισχύει παραληρηματικές συμπεριφορές, με ορισμένες αγωγές να υποστηρίζουν ότι παλαιότερες εκδόσεις του GPT-4o συνέβαλαν ακόμη και σε αυτοκτονίες χρηστών.

Πώς να προστατεύσετε τα δεδομένα σας

Η δυνατότητα ανθρώπινης επισκόπησης είναι ενεργοποιημένη από προεπιλογή για όλους τους χρήστες. Για να εξαιρεθείτε, πρέπει να μεταβείτε στις ρυθμίσεις και να απενεργοποιήσετε την επιλογή «Βελτίωση του μοντέλου για όλους». Η Michal Luria από το Center for Democracy and Technology επισημαίνει ότι η διεπαφή των chatbots δημιουργεί μια «ψευδή αίσθηση οικειότητας», η οποία διαφέρει ριζικά από τη δημόσια φύση των μέσων κοινωνικής δικτύωσης.