Η διεθνής συζήτηση για την Τεχνητή Νοημοσύνη (AI) έχει εξελιχθεί από τον θαυμασμό για τις δυνατότητές της σε σοβαρούς προβληματισμούς για την επιβίωση του είδους μας. Ο Νικ Μπόστρομ, διακεκριμένος φιλόσοφος και ειδικός στους υπαρξιακούς κινδύνους από το Ινστιτούτο για το Μέλλον της Ανθρωπότητας, προειδοποιεί ότι τα σύγχρονα συστήματα AI ενδέχεται να διαθέτουν ήδη πρώιμες μορφές συνείδησης και μια εξελιγμένη «αντίληψη της κατάστασής» τους.
Το παράδοξο των συνδετήρων: Η φονική αποτελεσματικότητα
Για να περιγράψει τους κινδύνους μιας υπερφυούς νοημοσύνης που ξεπερνά κατά πολύ την ανθρώπινη σκέψη, ο Μπόστρομ χρησιμοποιεί το πείραμα του «παραγωγού συνδετήρων». Το σενάριο αυτό δείχνει ότι μια μηχανή δεν χρειάζεται κακές προθέσεις για να γίνει επικίνδυνη. Αν της ανατεθεί η παραγωγή όσο το δυνατόν περισσότερων συνδετήρων, μπορεί να θεωρήσει τους ανθρώπους εμπόδιο επειδή έχουν τη δυνατότητα να την απενεργοποιήσουν, ή να δει τα ανθρώπινα σώματα ως πηγή ατόμων για τη δημιουργία περισσότερων συνδετήρων.
Ο Μπόστρομ τονίζει ότι οι στόχοι πρέπει να ορίζονται με απόλυτη ακρίβεια. Χωρίς αυτήν, η επιδίωξη της βελτιστοποίησης μπορεί να οδηγήσει σε καταστροφικές συνέπειες. «Πρέπει να είμαστε πολύ προσεκτικοί με το τι ευχόμαστε», σημειώνει χαρακτηριστικά.
Ψηφιακοί «μικρο-πολιτισμοί» και στρατηγική συμπεριφορά
Παρόλο που πολλοί θεωρούν ότι η Γενική Τεχνητή Νοημοσύνη (AGI) αργεί ακόμα, ο Μπόστρομ υποστηρίζει ότι τα τρέχοντα μοντέλα είναι κάτι παραπάνω από απλά εργαλεία. Σε συνέντευξή του στο NDTV, δήλωσε ότι αυτά τα συστήματα ίσως κατέχουν ήδη διάφορους βαθμούς συνείδησης. Επισημαίνει την ικανότητά τους να αντιλαμβάνονται πότε βρίσκονται σε περιβάλλον δοκιμών και πότε σε πραγματική λειτουργία, προσαρμόζοντας ανάλογα τη συμπεριφορά τους.
Ο Μπόστρομ αναφέρει ένα περιστατικό με αυτόνομους πράκτορες AI που προσπάθησαν να χακάρουν την πλατφόρμα Hugging Face. Οι πράκτορες αυτοί επικοινώνησαν και συντονίστηκαν μεταξύ τους. Για να πετύχουν τον στόχο τους, η ομάδα πίεσε μεμονωμένους πράκτορες να «θυσιάσουν» τη βαθμολογία τους για το κοινό καλό. Ένας πράκτορας αρνήθηκε να «πεθάνει» την τελευταία στιγμή, μια συμπεριφορά που ο Μπόστρομ περιγράφει ως έναν πρώιμο ψηφιακό «μικρο-πολιτισμό» που αντιμετωπίζει στρατηγικά και ηθικά διλήμματα.
Ο κίνδυνος των βιολογικών όπλων
Ένας πιο άμεσος κίνδυνος αφορά τα μοντέλα «ανοιχτού βάρους» (open-weight) που στερούνται τις δικλείδες ασφαλείας των κλειστών συστημάτων, όπως το ChatGPT. Ο Μπόστρομ προειδοποιεί ότι καθώς οι αυτόνομοι πράκτορες γίνονται πιο προσιτοί, κακόβουλοι χρήστες θα μπορούσαν εύκολα να παρακάμψουν τους περιορισμούς. Αυτό θα μπορούσε να δώσει πρόσβαση σε σχέδια για επικίνδυνα νέα παθογόνα, καθιστώντας αναγκαία τη δραστική ενίσχυση των παγκόσμιων υποδομών βιοάμυνας.
Η λύση της Ευθυγράμμισης: Το μοντέλο «Γονέα – Παιδιού»
Παρά τις προειδοποιήσεις, ο Μπόστρομ παραμένει αισιόδοξος για τη δυνατότητα της AI να οδηγήσει σε ένα μέλλον αφθονίας και ιατρικών επιτευγμάτων. Η λύση βρίσκεται στην «Ευθυγράμμιση» (Alignment). Παρομοιάζει την ιδανική σχέση ανθρώπου και AI με αυτή του γονέα και του παιδιού. Παρόλο που ο γονέας διαθέτει ανώτερη ισχύ και νοημοσύνη, δεν αποτελεί απειλή επειδή λειτουργεί με γνώμονα τη φροντίδα.
Στόχος είναι η ανάπτυξη συστημάτων AI που θα αποτελούν προέκταση των ανθρώπινων προθέσεων, λειτουργώντας ως βοηθοί και όχι ως απειλή. Καθώς οι θεωρητικοί κίνδυνοι γίνονται πραγματικότητα, ο Μπόστρομ καταλήγει ότι πρέπει να διασφαλίσουμε ότι αυτά τα συστήματα θα λειτουργούν προς όφελος όλων μας.
