Σε μια εποχή όπου η τεχνολογική πρόοδος συχνά ξεπερνά την ικανότητά μας για φιλοσοφικό αναστοχασμό, ο Γάλλος Πρέσβης στο Βιετνάμ, Olivier Brochet, προέβη σε μια βαρυσήμαντη παρέμβαση. Κατά τη διάρκεια πρόσφατης διπλωματικής συνάντησης στο Ανόι, ο Brochet υπογράμμισε μια θεμελιώδη κόκκινη γραμμή για την ανθρωπότητα: η Τεχνητή Νοημοσύνη (ΤΝ) δεν πρέπει ποτέ να έχει την τελική λέξη σε αποφάσεις που επηρεάζουν άμεσα την ανθρώπινη ζωή, την αξιοπρέπεια και τα θεμελιώδη δικαιώματα.

Η τοποθέτηση αυτή δεν αποτελεί απλώς μια διπλωματική αβροφροσύνη, αλλά αντανακλά την ευρύτερη ευρωπαϊκή και γαλλική στρατηγική για την «Ανθρωποκεντρική Τεχνητή Νοημοσύνη». Σε έναν κόσμο που σπεύδει να αυτοματοποιήσει τα πάντα, από τη δικαιοσύνη μέχρι την υγειονομική περίθαλψη, η φωνή της Γαλλίας έρχεται να υπενθυμίσει ότι η τεχνολογία οφείλει να παραμείνει το εργαλείο και όχι ο τεχνίτης της μοίρας μας.

Η Πρωτοκαθεδρία της Ανθρώπινης Κρίσης

Ο Πρέσβης Brochet τόνισε ότι η ΤΝ, παρά την εντυπωσιακή της ικανότητα να επεξεργάζεται τεράστιους όγκους δεδομένων, στερείται του απαραίτητου ηθικού υποβάθρου και της ενσυναίσθησης που απαιτείται για την λήψη κρίσιμων αποφάσεων. «Η Τεχνητή Νοημοσύνη μπορεί να προτείνει, να αναλύει και να προβλέπει, αλλά η ευθύνη της τελικής απόφασης πρέπει να παραμείνει σταθερά σε ανθρώπινα χέρια», δήλωσε χαρακτηριστικά. Αυτή η αρχή του «Human-in-the-loop» (άνθρωπος στον έλεγχο) αποτελεί τον ακρογωνιαίο λίθο της γαλλικής προσέγγισης στην ψηφιακή διακυβέρνηση.

Το επιχείρημα αυτό αποκτά ιδιαίτερη βαρύτητα όταν εξετάζουμε τομείς όπως η ποινική δικαιοσύνη, όπου αλγόριθμοι χρησιμοποιούνται ήδη για την πρόβλεψη της υποτροπής εγκληματιών, ή η ιατρική, όπου η διάγνωση βασίζεται όλο και περισσότερο σε μοντέλα μηχανικής μάθησης. Ο κίνδυνος, σύμφωνα με τον Γάλλο διπλωμάτη, δεν είναι μόνο η πιθανότητα λάθους, αλλά η απώλεια της λογοδοσίας. Αν ένας αλγόριθμος λάβει μια λανθασμένη απόφαση που καταστρέφει μια ζωή, ποιος φέρει την ηθική και νομική ευθύνη; Η ανωνυμία του κώδικα δεν μπορεί να υποκαταστήσει την ευθύνη του ατόμου.

Η Γεωπολιτική της Ηθικής και το Μοντέλο του Βιετνάμ

Η επιλογή του Βιετνάμ ως βήματος για αυτές τις δηλώσεις δεν είναι τυχαία. Το Βιετνάμ αποτελεί μια από τις ταχύτερα αναπτυσσόμενες ψηφιακές οικονομίες στη Νοτιοανατολική Ασία, με μια νεαρή πληθυσμιακή βάση που υιοθετεί την τεχνολογία με ταχείς ρυθμούς. Η Γαλλία, μέσω του Πρέσβη της, επιδιώκει να εξάγει όχι μόνο τεχνογνωσία, αλλά και ένα κανονιστικό πλαίσιο που προστατεύει τον πολίτη από την αυθαιρεσία των δεδομένων.

Ο Brochet ανέφερε ότι η συνεργασία μεταξύ Γαλλίας και Βιετνάμ στον τομέα της ΤΝ πρέπει να βασίζεται στην διαφάνεια. «Δεν μπορούμε να εμπιστευτούμε μαύρα κουτιά (black boxes)», σημείωσε, αναφερόμενος στα περίπλοκα μοντέλα ΤΝ των οποίων η εσωτερική λειτουργία παραμένει αδιαφανής ακόμα και για τους δημιουργούς τους. Η προώθηση της «Εξηγήσιμης ΤΝ» (Explainable AI) είναι ζωτικής σημασίας για να διασφαλιστεί ότι οι πολίτες κατανοούν γιατί ελήφθη μια απόφαση που τους αφορά.

Οι Κίνδυνοι της Αυτοματοποιημένης Διακυβέρνησης

Στο επίκεντρο της ανησυχίας του Γάλλου Πρέσβη βρίσκεται η διολίσθηση προς μια μορφή «αλγοριθμικής διακυβέρνησης». Σε αυτό το σενάριο, οι κυβερνήσεις και οι οργανισμοί θα μπορούσαν να παραχωρήσουν τη λήψη αποφάσεων σε συστήματα ΤΝ για λόγους αποτελεσματικότητας και κόστους. Ωστόσο, η αποτελεσματικότητα δεν ταυτίζεται πάντα με τη δικαιοσύνη. Οι αλγόριθμοι τείνουν να αναπαράγουν και να ενισχύουν τις προκαταλήψεις που υπάρχουν στα δεδομένα εκπαίδευσής τους, οδηγώντας σε διακρίσεις εις βάρος μειονοτήτων ή ευάλωτων ομάδων.

Ο Brochet υπογράμμισε ότι η δημοκρατία απαιτεί τη δυνατότητα αμφισβήτησης μιας απόφασης. Αν η απόφαση λαμβάνεται από μια μηχανή χωρίς δυνατότητα έφεσης ή εξήγησης, τότε το θεμέλιο του κράτους δικαίου κλονίζεται. Η Γαλλία, ως οικοδεσπότης της επόμενης Παγκόσμιας Συνόδου για την Ασφάλεια της ΤΝ (AI Action Summit), σκοπεύει να θέσει αυτά τα ζητήματα στο υψηλότερο διεθνές επίπεδο, επιδιώκοντας μια παγκόσμια συναίνεση που θα θέτει τον άνθρωπο στο επίκεντρο.

Συμπέρασμα: Μια Πρόσκληση για Επαγρύπνηση

Η παρέμβαση του Olivier Brochet στο Ανόι αποτελεί μια υπενθύμιση ότι η τεχνολογία δεν είναι μια ουδέτερη δύναμη. Είναι το αποτέλεσμα επιλογών και αξιών. Το μήνυμα είναι σαφές: η πρόοδος δεν πρέπει να συνεπάγεται την παραίτηση από την ανθρώπινη αυτονόμηση. Καθώς προχωράμε βαθύτερα στον 21ο αιώνα, η ικανότητά μας να διακρίνουμε πού τελειώνει η υποστήριξη της μηχανής και πού αρχίζει η κυριαρχία του ανθρώπου θα καθορίσει την ποιότητα του πολιτισμού μας.

Όπως κατέληξε ο Πρέσβης, «η Τεχνητή Νοημοσύνη πρέπει να είναι ένας μεγεθυντικός φακός της ανθρώπινης ευφυΐας, όχι ένας αντικαταστάτης της ανθρώπινης συνείδησης». Η πρόκληση για το Βιετνάμ, τη Γαλλία και τον υπόλοιπο κόσμο είναι να οικοδομήσουν ένα μέλλον όπου οι αλγόριθμοι θα μας υπηρετούν, χωρίς ποτέ να μας εξουσιάζουν.