Η επόμενη φορά που θα υποβάλετε αίτηση για εργασία, η αξιολόγηση του βιογραφικού σας μπορεί να γίνει από μια Τεχνητή Νοημοσύνη πριν καν το δει ανθρώπινο μάτι. Ωστόσο, νέα έρευνα από τα πανεπιστήμια Princeton και Σικάγο εγείρει σοβαρά ερωτήματα για τη δικαιοσύνη αυτών των συστημάτων. Ενώ ήταν ήδη γνωστό ότι τα μεγάλα γλωσσικά μοντέλα (LLMs) κληρονομούν ανθρώπινες προκαταλήψεις από τα δεδομένα εκπαίδευσής τους, τα νέα ευρήματα δείχνουν ότι μπορούν να αναπτύξουν και δικά τους στερεότυπα μέσω της «εμπειρίας» τους.
Το πείραμα της προσομοίωσης
Οι ερευνητές υπέβαλαν μοντέλα όπως το ChatGPT, το Claude και το Gemini σε ένα παιχνίδι προσομοίωσης προσλήψεων. Τα μοντέλα κλήθηκαν να επιλέξουν υποψηφίους για 20 διαφορετικά επαγγέλματα από τέσσερις φανταστικές εθνοτικές ομάδες (Tufa, Aima, Reku και Weki). Παρόλο που όλοι οι υποψήφιοι είχαν τις ίδιες πιθανότητες επιτυχίας, τα μοντέλα άρχισαν γρήγορα να διαχωρίζουν τις ομάδες.
Για παράδειγμα, αν ένα μοντέλο ενημερωνόταν ότι ένας υποψήφιος από την ομάδα Aima απέτυχε ως γιατρός, σταματούσε να προσλαμβάνει μέλη της ίδιας ομάδας για τη συγκεκριμένη θέση, κατευθύνοντάς τα σε θέσεις χαμηλότερου κύρους, όπως καθαριστές. Αυτή η τάση για γενίκευση ήταν σημαντικά ισχυρότερη από εκείνη των ανθρώπων που συμμετείχαν σε παλαιότερη αντίστοιχη μελέτη.
Η παγίδα της «λογικής»
Σε μια κλίμακα διαχωρισμού όπου το 2 αντιπροσωπεύει τον απόλυτο αποκλεισμό, οι άνθρωποι σημείωσαν 0,84. Αντίθετα, το μοντέλο o3 της OpenAI άγγιξε το 1,83. Σύμφωνα με τον Ryan Liu, συντάκτη της μελέτης, αυτό συμβαίνει επειδή τα LLMs είναι βελτιστοποιημένα να εξάγουν συμπεράσματα από περιορισμένα δεδομένα. Παραδόξως, τα νεότερα μοντέλα με υψηλότερες ικανότητες συλλογιστικής, όπως το o3 και το DeepSeek R1, εμφάνισαν ακόμη ισχυρότερες προκαταλήψεις.
«Η ίδια παρόρμηση που βοηθά τα LLMs να λύνουν λογικούς γρίφους, τα κάνει επίσης γρήγορα στο να υιοθετούν στερεότυπα», σημειώνει ο Liu.
Αναζητώντας λύσεις
Η απλή εντολή προς το μοντέλο «να είναι δίκαιο» δεν απέδωσε καρπούς. Ωστόσο, η παροχή κινήτρων για ποικιλομορφία (diversity bonus) μείωσε σημαντικά τη μεροληψία. Επίσης, η παροχή σχετικών προσωπικών πληροφοριών για τους υποψηφίους βοήθησε τα μοντέλα να κρίνουν πιο αντικειμενικά, αν και η προσθήκη άσχετων λεπτομερειών, όπως το χρώμα των μαλλιών, τα έκανε να επιστρέψουν στα εθνοτικά στερεότυπα.
