Στους διαδρόμους του Πύργου της Ευρωπαϊκής Κεντρικής Τράπεζας στη Φρανκφούρτη, η ανησυχία δεν αφορά πλέον μόνο τον πληθωρισμό ή τα επιτόκια. Μια νέα, σιωπηλή απειλή αναδύεται από τα κυκλώματα των υπερυπολογιστών και τους αλγορίθμους των hedge funds. Σύμφωνα με μια εμπεριστατωμένη μελέτη που είδε πρόσφατα το φως της δημοσιότητας, η Τεχνητή Νοημοσύνη (AI) δεν πρόκειται απλώς να βελτιώσει την αποτελεσματικότητα των συναλλαγών, αλλά ενδέχεται να μεταμορφώσει ριζικά τον τρόπο με τον οποίο εκδηλώνονται και εξαπλώνονται οι χρηματοπιστωτικές κρίσεις.
Η μελέτη της ΕΚΤ υπογραμμίζει ότι η ταχύτητα με την οποία η AI επεξεργάζεται δεδομένα και εκτελεί εντολές θα μπορούσε να μετατρέψει μια μικρή διόρθωση της αγοράς σε μια πλήρη συστημική κατάρρευση μέσα σε λίγα δευτερόλεπτα. Το φαινόμενο των «flash crashes» δεν είναι νέο, αλλά η ενσωμάτωση της παραγωγικής AI και των προηγμένων μοντέλων μηχανικής μάθησης προσθέτει ένα στρώμα πολυπλοκότητας και απρόβλεπτης συμπεριφοράς που οι τρέχοντες μηχανισμοί εποπτείας αδυνατούν να παρακολουθήσουν.
Η Αγελαία Συμπεριφορά των Αλγορίθμων
Ένα από τα πιο ανησυχητικά ευρήματα της μελέτης είναι η τάση προς την «αλγοριθμική ομοιομορφία». Καθώς όλο και περισσότερα χρηματοπιστωτικά ιδρύματα υιοθετούν παρόμοια μοντέλα AI, τα οποία εκπαιδεύονται στα ίδια σύνολα δεδομένων, ο κίνδυνος να αντιδράσουν όλα ταυτόχρονα με τον ίδιο τρόπο αυξάνεται εκθετικά. Αυτή η «αγελαία συμπεριφορά» (herding behavior) μπορεί να οδηγήσει σε μαζικές πωλήσεις περιουσιακών στοιχείων χωρίς την παρέμβαση ανθρώπινης κρίσης, στραγγίζοντας τη ρευστότητα από την αγορά ακριβώς τη στιγμή που είναι πιο απαραίτητη.
Η ΕΚΤ επισημαίνει ότι οι αλγόριθμοι AI συχνά λειτουργούν ως «μαύρα κουτιά». Ακόμη και οι ίδιοι οι προγραμματιστές τους δυσκολεύονται μερικές φορές να εξηγήσουν γιατί ένα μοντέλο έλαβε μια συγκεκριμένη απόφαση σε συνθήκες πίεσης. Αυτή η έλλειψη διαφάνειας καθιστά εξαιρετικά δύσκολο για τις κεντρικές τράπεζες να παρέμβουν αποτελεσματικά. «Σε μια παραδοσιακή κρίση, μπορείς να σηκώσεις το τηλέφωνο και να μιλήσεις με τους CEOs των τραπεζών. Σε μια κρίση που καθοδηγείται από την AI, οι αποφάσεις λαμβάνονται σε χιλιοστά του δευτερολέπτου από κώδικα που δεν έχει ούτε φόβο ούτε λογική», αναφέρει χαρακτηριστικά η μελέτη.
Ο Κίνδυνος της «Μολυσμένης» Πληροφορίας
Πέρα από την ταχύτητα, η AI εισάγει και τον κίνδυνο της παραπληροφόρησης σε κλίμακα. Τα μοντέλα που βασίζονται στην ανάλυση συναισθήματος (sentiment analysis) από τα κοινωνικά δίκτυα και τις ειδήσεις είναι ευάλωτα σε ψευδείς ειδήσεις που δημιουργούνται από άλλα συστήματα AI. Μια συντονισμένη επίθεση με «deepfakes» ή ψευδή οικονομικά στοιχεία θα μπορούσε να πυροδοτήσει μια αλυσιδωτή αντίδραση στις αγορές, προτού οι άνθρωποι προλάβουν να επαληθεύσουν την εγκυρότητα των πληροφοριών.
Επιπλέον, η μελέτη εξετάζει τη συγκέντρωση ισχύος. Η ανάπτυξη κορυφαίων μοντέλων AI απαιτεί τεράστιους πόρους, γεγονός που σημαίνει ότι ένας μικρός αριθμός τεχνολογικών κολοσσών και μεγάλων τραπεζών θα ελέγχει τα εργαλεία που κινούν την παγκόσμια οικονομία. Αν ένα από αυτά τα κεντρικά μοντέλα παρουσιάσει σφάλμα ή πέσει θύμα κυβερνοεπίθεσης, οι επιπτώσεις θα είναι άμεσες και παγκόσμιες, δημιουργώντας ένα νέο είδος «συστημικού κινδύνου τρίτων μερών».
Επαναπροσδιορίζοντας την Εποπτεία
Η ΕΚΤ καλεί για μια ριζική αναθεώρηση του κανονιστικού πλαισίου. Δεν αρκεί πλέον να ελέγχονται οι ισολογισμοί των τραπεζών. Οι ρυθμιστικές αρχές πρέπει να αποκτήσουν τη δυνατότητα να διενεργούν «stress tests» στους ίδιους τους αλγορίθμους. Αυτό απαιτεί μια νέα γενιά εποπτών που θα είναι εξίσου ικανοί στην επιστήμη των δεδομένων όσο και στα οικονομικά.
Η πρόκληση είναι τεράστια: πώς μπορείς να ρυθμίσεις κάτι που εξελίσσεται καθημερινά μέσω της μάθησης; Η μελέτη προτείνει την εισαγωγή «διακοπτών ασφαλείας» (circuit breakers) νέας γενιάς, οι οποίοι δεν θα βασίζονται μόνο στις μεταβολές των τιμών, αλλά και στην ανίχνευση ανώμαλων αλγοριθμικών προτύπων. Καθώς μπαίνουμε σε αυτή τη νέα εποχή, η ισορροπία μεταξύ της καινοτομίας που προσφέρει η AI και της σταθερότητας που απαιτεί το κοινωνικό σύνολο γίνεται το πιο κρίσιμο στοίχημα για τους οικονομολόγους του 21ου αιώνα. Η κρίση του μέλλοντος μπορεί να μην ξεκινήσει από μια τράπεζα που καταρρέει, αλλά από μια γραμμή κώδικα που παρερμήνευσε τον κόσμο.
