Η Μάργκαρετ Άτγουντ, η γυναίκα που έχει χαρτογραφήσει με ανατριχιαστική ακρίβεια τις δυστοπίες του μέλλοντος, δεν είναι από εκείνους που εντυπωσιάζονται εύκολα από τα «θαύματα» της τεχνολογίας. Στο πρόσφατο Λογοτεχνικό και Πολιτιστικό Φεστιβάλ Babel στο Πόρτο της Πορτογαλίας, η Καναδή συγγραφέας κλήθηκε να σχολιάσει την άνοδο της Παραγωγικής Τεχνητής Νοημοσύνης (Generative AI). Η απάντησή της ήταν τόσο κοφτερή όσο και η πένα της: το πρόβλημα δεν είναι η ίδια η μηχανή, αλλά η τροφή που της δίνουμε. Το δόγμα «Garbage In, Garbage Out» (Σκουπίδια μέσα, σκουπίδια έξω) αποτελεί, σύμφωνα με την ίδια, την απόλυτη αλήθεια για την τρέχουσα κατάσταση της τεχνολογίας.
Η Ψευδαίσθηση της Δημιουργικότητας
Η Άτγουντ υποστήριξε ότι η Τεχνητή Νοημοσύνη δεν δημιουργεί τίποτα πραγματικά νέο. Αντίθετα, λειτουργεί ως ένας εξελιγμένος μηχανισμός ανακύκλωσης. «Είναι μια κίσσα», είπε χαρακτηριστικά, αναφερόμενη στο πουλί που κλέβει γυαλιστερά αντικείμενα για να στολίσει τη φωλιά του. Τα μοντέλα γλώσσας (LLMs) εκπαιδεύονται σε τεράστιες ποσότητες δεδομένων που έχουν δημιουργηθεί από ανθρώπους — βιβλία, άρθρα, αναρτήσεις στα μέσα κοινωνικής δικτύωσης και κώδικα. Όταν το υλικό εκπαίδευσης είναι μέτριο, προκατειλημμένο ή απλώς λανθασμένο, η έξοδος της ΤΝ θα αντικατοπτρίζει αναπόφευκτα αυτές τις αδυναμίες.
Για την Άτγουντ, η λογοτεχνία είναι η αποκρυστάλλωση της ανθρώπινης εμπειρίας, του πόνου και της αμφισημίας. Η ΤΝ, στερούμενη συνείδησης και βιώματος, μπορεί μόνο να μιμηθεί τη δομή της αφήγησης χωρίς να κατανοεί το βάθος της. «Αν της ζητήσετε να γράψει ένα σονέτο στο στυλ του Σαίξπηρ, θα το κάνει, αλλά θα είναι ένα σονέτο που βασίζεται στα στατιστικά πρότυπα του Σαίξπηρ, όχι στην ψυχή του», εξήγησε. Αυτή η «στατιστική λογοτεχνία» κινδυνεύει να κατακλύσει την αγορά με περιεχόμενο χαμηλής ποιότητας, πνίγοντας τις αυθεντικές φωνές κάτω από έναν ωκεανό ψηφιακού θορύβου.
Ηθική, Λογοκλοπή και η Κλοπή της Πνευματικής Ιδιοκτησίας
Ένα από τα πιο φλέγοντα ζητήματα που έθιξε η Άτγουντ είναι η πηγή των δεδομένων εκπαίδευσης. Η συγγραφέας ήταν μία από τις πρώτες που υπέγραψαν την ανοιχτή επιστολή του Authors Guild, ζητώντας από τις εταιρείες τεχνολογίας να αποζημιώσουν τους δημιουργούς για τη χρήση του έργου τους. Η θέση της είναι ξεκάθαρη: η χρήση εκατομμυρίων προστατευμένων βιβλίων χωρίς άδεια για την εκπαίδευση κερδοφόρων μοντέλων είναι μια μορφή πειρατείας σε βιομηχανική κλίμακα.
- Η ΤΝ δεν «μαθαίνει» όπως ένας άνθρωπος· καταναλώνει δεδομένα για να παράγει εμπορεύσιμα προϊόντα.
- Η έλλειψη διαφάνειας σχετικά με τα σύνολα δεδομένων εκπαίδευσης καθιστά αδύνατο τον έλεγχο για λογοκλοπή.
- Η οικονομική επιβίωση των νέων συγγραφέων απειλείται από την αυτοματοποιημένη παραγωγή περιεχομένου.
Η Άτγουντ προειδοποιεί ότι αν καταστρέψουμε το οικονομικό μοντέλο που στηρίζει τους συγγραφείς, θα σταματήσουμε να παράγουμε το «ποιοτικό υλικό» που χρειάζεται η ίδια η ΤΝ για να εξελιχθεί. Είναι ένας αυτοκαταστροφικός κύκλος όπου η μηχανή καταβροχθίζει τον δημιουργό της, καταλήγοντας τελικά να τρέφεται με τα δικά της ψηφιακά απόβλητα.
Ο Καθρέφτης των Προκαταλήψεών μας
Πέρα από τη λογοτεχνία, η Άτγουντ εστίασε στις κοινωνικές προεκτάσεις του «Garbage In, Garbage Out». Αν τα δεδομένα με τα οποία τροφοδοτούμε την ΤΝ περιέχουν τον ρατσισμό, τον σεξισμό και τις ταξικές προκαταλήψεις των τελευταίων δεκαετιών, η ΤΝ θα τις ενισχύσει και θα τις παρουσιάσει ως αντικειμενική αλήθεια. Στο σύμπαν του «The Handmaid's Tale», η καταπίεση επιβάλλεται μέσω της ιδεολογίας και της βίας. Στον σύγχρονο κόσμο, η Άτγουντ φοβάται ότι η καταπίεση μπορεί να έρθει μέσω αλγορίθμων που παίρνουν αποφάσεις για τη ζωή μας βασισμένοι σε «λερωμένα» δεδομένα.
«Η Τεχνητή Νοημοσύνη είναι ένας καθρέφτης. Αν δεν μας αρέσει αυτό που βλέπουμε μέσα του, δεν φταίει ο καθρέφτης, αλλά το πρόσωπο που αντικατοπτρίζεται», δήλωσε χαρακτηριστικά.
Η ανάλυσή της καταλήγει στο συμπέρασμα ότι η τεχνολογία δεν είναι ούτε καλή ούτε κακή από μόνη της. Είναι ένα εργαλείο που μεγεθύνει την ανθρώπινη φύση. Το ερώτημα που θέτει η Άτγουντ είναι αν είμαστε έτοιμοι να αναλάβουμε την ευθύνη για τα «σκουπίδια» που παράγουμε ως κοινωνία, πριν αυτά γίνουν ο θεμέλιος λίθος της μελλοντικής μας νοημοσύνης. Η λύση δεν είναι η απαγόρευση, αλλά η αυστηρή ρύθμιση, η προστασία των πνευματικών δικαιωμάτων και, πάνω απ' όλα, η καλλιέργεια της κριτικής σκέψης που καμία μηχανή δεν μπορεί να υποκαταστήσει.
