Η ενσωμάτωση της Τεχνητής Νοημοσύνης (ΤΝ) στη λήψη κλινικών αποφάσεων φέρνει στο προσκήνιο το ζήτημα της άνισης ακρίβειας μεταξύ διαφορετικών ομάδων ασθενών. Μια πρόσφατη μελέτη που δημοσιεύθηκε στο ArXiv εξετάζει τις επιπτώσεις ενός κανόνα αστικής ευθύνης που εφαρμόζεται στις Ηνωμένες Πολιτείες, ο οποίος καθιστά τους παρόχους υγειονομικής περίθαλψης υπεύθυνους όταν η χρήση μεροληπτικών αλγορίθμων οδηγεί σε εσφαλμένες ιατρικές αποφάσεις.
Η Δυναμική μεταξύ Εταιρειών και Ιατρών
Η έρευνα αναλύει πώς η ευθύνη επηρεάζει δύο βασικούς παράγοντες: τις εταιρείες ανάπτυξης ΤΝ και τους κλινικούς ιατρούς. Για τις εταιρείες, η βελτίωση της ακρίβειας για τις μειονεκτούσες ομάδες θεωρείται συχνά πιο δαπανηρή. Από την άλλη πλευρά, ο ιατρός, ως ο τελικός υπόλογος για την απόφαση, καλείται να σταθμίσει τη μείωση της κλινικής αβεβαιότητας έναντι της έκθεσης σε νομικούς κινδύνους, ειδικά όταν τα σφάλματα της ΤΝ επηρεάζουν δυσανάλογα συγκεκριμένες ομάδες.
Το Παράδοξο της Μειωμένης Χρήσης
Τα ευρήματα υποδεικνύουν ότι οι κανόνες ευθύνης μπορούν να προκαλέσουν «διαφοροποιημένη χρήση» της ΤΝ. Σε ενδιάμεσα επίπεδα νομικής ευθύνης, οι γιατροί ενδέχεται να μειώσουν τη χρήση της ΤΝ συνολικά, και ειδικότερα για τους ασθενείς από μειονεκτούσες ομάδες, προκειμένου να αποφύγουν τις νομικές κυρώσεις. Το φαινόμενο αυτό είναι μη μονότονο: καθώς η ευθύνη αυξάνεται περαιτέρω, η χρήση μπορεί να αυξηθεί ξανά, καθώς οι εταιρείες αναγκάζονται να επενδύσουν στη μείωση των ανισοτήτων ή να στραφούν σε σχεδιασμούς ίσης ακρίβειας.
Οι Κίνδυνοι των Οριζόντιων Εντολών
Η μελέτη προειδοποιεί ότι η επιβολή υποχρεωτικής ίσης αλγοριθμικής ακρίβειας για όλες τις ομάδες ασθενών μπορεί να αποβεί επιζήμια για όλους. Μια τέτοια οριζόντια απαίτηση ενδέχεται να στρεβλώσει τα κίνητρα επενδύσεων των εταιρειών και τις ισορροπημένες αποφάσεις των γιατρών σχετικά με τη χρήση της ΤΝ, καταλήγοντας τελικά σε υποβάθμιση των παρεχόμενων υπηρεσιών υγείας.
