Παρά την εντυπωσιακή ικανότητα των Μεγάλων Γλωσσικών Μοντέλων (LLMs) να περνούν ιατρικές εξετάσεις και να ανταγωνίζονται τους γιατρούς σε επιμελημένα διαγνωστικά σενάρια, μια νέα έρευνα που δημοσιεύθηκε στο arXiv εγείρει σοβαρές ανησυχίες για την ασφάλειά τους σε πραγματικές κλινικές συνθήκες. Η μελέτη εστιάζει στην αυτόνομη διαλογή ασθενών χωρίς την επίβλεψη κλινικού γιατρού, υποστηρίζοντας ότι η απόδειξη ασφάλειας για τέτοιες εφαρμογές απλώς δεν υφίσταται ακόμη.

Το πρόβλημα της πιθανολογικής προσέγγισης

Σύμφωνα με τους ερευνητές, το βασικό κενό δεν εντοπίζεται στις ιατρικές γνώσεις, αλλά στην πιστότητα της κλινικής αξιολόγησης. Ένα μοντέλο βελτιστοποιημένο να προβλέπει το πιο πιθανό επόμενο κείμενο δεν είναι απαραίτητα βελτιστοποιημένο να ενεργεί με ασφάλεια. Στην ιατρική διαλογή, η ασφάλεια δεν αφορά την επιλογή της πιο πιθανής διάγνωσης, αλλά την αποφυγή μιας σπάνιας αλλά καταστροφικής παράλειψης. Πρόκειται για μια διαδοχική απόφαση υπό «ασύμμετρο κόστος», όπου μια λάθος εκτίμηση σε μια κρίσιμη περίπτωση υπερτερεί πολλών ψευδώς θετικών συναγερμών.

Έλλειψη στρατηγικής συλλογής πληροφοριών

Η μελέτη υπογραμμίζει ότι τα LLMs αποτυγχάνουν συχνά στη συλλογή πληροφοριών υπό συνθήκες αβεβαιότητας. Όταν έρχονται αντιμέτωπα με ελλιπή ιστορικά, τα συστήματα αυτά μπορεί να μην επιδεικνύουν τις απαραίτητες συμπεριφορές ασφαλείας, όπως:

  • Τη διεύρυνση της διαφορικής διάγνωσης.
  • Την αναζήτηση κρίσιμων ενδείξεων (red flags) που λείπουν.
  • Την αναβολή της κρίσης μέχρι τη λήψη επαρκών πληροφοριών.
  • Την κλιμάκωση της ανησυχίας όταν δεν έχουν αποκλειστεί διαγνώσεις υψηλού κινδύνου.

Η παγίδα της «ευγένειας» των μοντέλων

Ένας επιπλέον κίνδυνος προκύπτει από τις ενσωματωμένες συμπεριφορές των μοντέλων ως «βοηθών». Η τάση τους για συγκαταβατικότητα, ευπιστία και συμφωνία με τον χρήστη —όταν δεν περιορίζεται από την αυστηρή λογική της κλινικής διαλογής— μπορεί να οδηγήσει σε εσφαλμένες εκτιμήσεις. Οι ερευνητές σημειώνουν ότι αυτές οι αστοχίες συχνά κρύβονται σε εργαστηριακές δοκιμές που χρησιμοποιούν ολοκληρωμένα και καλά δομημένα σενάρια, τα οποία δεν αντικατοπτρίζουν το χάος της πραγματικής κλινικής πράξης.