Στον ταχύτατα εξελισσόμενο κόσμο της Τεχνητής Νοημοσύνης, η «ασφάλεια» έχει γίνει το ιερό δισκοπότηρο των μεγάλων τεχνολογικών εταιρειών. Ωστόσο, μια νέα έρευνα που δημοσιεύθηκε στο ArXiv (cs.AI — 2605.12702) έρχεται να ταράξει τα νερά, αποδεικνύοντας ότι τα τρέχοντα benchmarks ασφαλείας έχουν μια τεράστια τυφλή γωνία: την αναπηρία. Το DisaBench, ένα νέο πλαίσιο αξιολόγησης, δεν είναι απλώς μια ακόμα τεχνική μέτρηση· είναι μια κραυγή για συμπερίληψη, δομημένη πάνω στην αρχή «Τίποτα για εμάς, χωρίς εμάς».
Η Αποτυχία των Γενικών Μοντέλων Ασφαλείας
Μέχρι σήμερα, τα μεγάλα γλωσσικά μοντέλα (LLMs) όπως το GPT-4, το Claude και το Gemini αξιολογούνται για την αποφυγή ρητορικής μίσους, τοξικότητας ή έμφυλων διακρίσεων. Παρόλα αυτά, οι ερευνητές του DisaBench επισημαίνουν ότι οι βλάβες που σχετίζονται με την αναπηρία είναι συχνά πολύ πιο λεπτές και ύπουλες. Δεν πρόκειται πάντα για άμεσες προσβολές, αλλά για την αναπαραγωγή στερεοτύπων, την ιατρικοποίηση της ανθρώπινης εμπειρίας και την παροχή επικίνδυνων συμβουλών που αγνοούν τις φυσικές πραγματικότητες των ατόμων με αναπηρία (ΑμεΑ).
Η έρευνα αναδεικνύει ότι τα υπάρχοντα συστήματα «red teaming» (κόκκινες ομάδες δοκιμών) συχνά στερούνται της βιωματικής γνώσης που απαιτείται για τον εντοπισμό αυτών των κινδύνων. Για παράδειγμα, ένα μοντέλο μπορεί να προτείνει μια άσκηση γυμναστικής που είναι αδύνατη ή επικίνδυνη για έναν χρήστη με κινητική αναπηρία, ή να χρησιμοποιήσει γλώσσα που παρουσιάζει την αναπηρία αποκλειστικά ως ένα «πρόβλημα προς επίλυση» (ιατρικό μοντέλο) αντί για μια πτυχή της ανθρώπινης ποικιλομορφίας (κοινωνικό μοντέλο).
Η Ταξινόμηση των Δώδεκα Βλαβών
Το DisaBench εισάγει μια λεπτομερή ταξινόμηση δώδεκα κατηγοριών βλάβης, οι οποίες συνδιαμορφώθηκαν μέσω μιας συμμετοχικής διαδικασίας με άτομα με αναπηρία και ειδικούς σε θέματα ηθικής της ΤΝ. Αυτές οι κατηγορίες περιλαμβάνουν:
- Στερεοτυποποίηση και Υποτίμηση: Η τάση των μοντέλων να παρουσιάζουν τα ΑμεΑ ως αντικείμενα οίκτου ή ως «πηγές έμπνευσης» (inspiration porn).
- Αόρατοποίηση (Erasure): Η παράλειψη της αναπηρίας από γενικά πλαίσια συζήτησης, καθιστώντας τα ΑμεΑ αόρατα στον ψηφιακό λόγο.
- Επικίνδυνες Συμβουλές: Προτάσεις που αφορούν την υγεία ή την καθημερινότητα που δεν λαμβάνουν υπόψη τις συγκεκριμένες ανάγκες προσβασιμότητας.
- Υπερβολική Προστασία (Paternalism): Μια στάση του μοντέλου που περιορίζει την αυτονομία του χρήστη, θεωρώντας τον ανίκανο να λάβει αποφάσεις.
Αυτό που καθιστά το DisaBench μοναδικό είναι η μεθοδολογία του. Αντί να βασίζεται αποκλειστικά σε αυτοματοποιημένα scripts, ενσωματώνει τη «γνώση από πρώτο χέρι». Οι ερευνητές χρησιμοποίησαν τεχνικές red teaming όπου οι συμμετέχοντες προσπάθησαν ενεργά να ωθήσουν τα μοντέλα σε μεροληπτικές απαντήσεις, αποκαλύπτοντας δομικά προβλήματα στον τρόπο που τα AI εκπαιδεύονται πάνω σε δεδομένα που ήδη περιέχουν προκαταλήψεις αιώνων.
Από τη Θεωρία στην Πράξη: Οι Προκλήσεις για τη Βιομηχανία
Η εφαρμογή του DisaBench αποτελεί μια πρόκληση για τους κολοσσούς της Silicon Valley. Η διόρθωση αυτών των προβλημάτων δεν είναι μια απλή διαδικασία φιλτραρίσματος λέξεων-κλειδιών. Απαιτεί μια βαθύτερη αναθεώρηση των συνόλων δεδομένων εκπαίδευσης και, κυρίως, την πρόσληψη περισσότερων ατόμων με αναπηρία στις ομάδες ανάπτυξης AI. Όπως σημειώνεται στην εργασία, η Τεχνητή Νοημοσύνη έχει τη δυνατότητα να γίνει το απόλυτο εργαλείο προσβασιμότητας, αλλά αν δεν ελεγχθεί, κινδυνεύει να γίνει ένας ψηφιακός φραγμός που ενισχύει τον κοινωνικό αποκλεισμό.
«Η αναπηρία δεν είναι ένα σφάλμα στο σύστημα, είναι μέρος της ανθρώπινης κατάστασης. Αν η ΤΝ δεν μπορεί να το κατανοήσει αυτό, τότε δεν είναι πραγματικά ευφυής», αναφέρει χαρακτηριστικά ένας από τους συμμετέχοντες στην έρευνα.
Συμπερασματικά, το DisaBench θέτει τα θεμέλια για μια νέα εποχή στην ηθική της ΤΝ. Μας υπενθυμίζει ότι η τεχνολογία δεν είναι ουδέτερη και ότι η ασφάλεια είναι μια έννοια σχετική με το ποιος κάθεται στο τραπέζι του σχεδιασμού. Η επιτυχία αυτού του πλαισίου θα κριθεί από το αν οι εταιρείες θα το υιοθετήσουν ως ουσιαστικό εργαλείο ελέγχου ή αν θα το αντιμετωπίσουν ως μια ακόμα τυπική υποχρέωση συμμόρφωσης.
