Ο Βασιλιάς Κάρολος Γ' έγινε η τελευταία παγκόσμια προσωπικότητα που άσκησε πίεση στη βιομηχανία της Τεχνητής Νοημοσύνης για τη θέσπιση δικλείδων ασφαλείας, δηλώνοντας σε στελέχη των OpenAI, Anthropic, Google DeepMind και Nvidia ότι «χρειαζόμαστε επαρκή μέσα ελέγχου πριν να είναι πολύ αργά».
Μια κρίσιμη σύνοδος στη Σκωτία
Οι δηλώσεις του μονάρχη πραγματοποιήθηκαν κατά τη διάρκεια συνόδου στο Dumfries House στη Σκωτία, σε μια στιγμή που η βιομηχανία δέχεται πιέσεις από πολλαπλές κατευθύνσεις. Ο Γενικός Γραμματέας του ΟΗΕ Αντόνιο Γκουτέρες έχει προειδοποιήσει για την ανάγκη παγκόσμιου συντονισμού, ενώ στην Ουάσιγκτον οι νομοθέτες συζητούν αυστηρότερη ομοσπονδιακή εποπτεία μετά την ηχηρή παραίτηση του ερευνητή Jacob Coxon από την Anthropic.
Ο Κάρολος κάλεσε τους παρευρισκόμενους, μεταξύ των οποίων ο Jensen Huang της Nvidia και ο Demis Hassabis της Google DeepMind, να εξετάσουν τις «θεμελιώδεις αρχές» που πρέπει να καθοδηγούν την ανάπτυξη της AI. Τόνισε ότι το καθήκον τους δεν είναι απλώς η πρόοδος της τεχνολογίας, αλλά η διασφάλιση ότι αυτή παραμένει «σταθερά στην υπηρεσία της ανθρωπότητας, της κοινότητας και του φυσικού κόσμου».
Διχασμένη η βιομηχανία για την επιβράδυνση
Παρά την έκκληση του Βασιλιά για «διεθνή συνεργασία και συναίνεση», η βιομηχανία παραμένει βαθιά διχασμένη. Ο Διευθύνων Σύμβουλος της Anthropic, Dario Amodei, έχει προτείνει μια σκόπιμη επιβράδυνση στον ρυθμό ανάπτυξης των δυνατοτήτων της AI, μια θέση με την οποία συμφώνησαν δημόσια οι Sam Altman (OpenAI) και Elon Musk (xAI).
Ωστόσο, ο Jensen Huang της Nvidia εξέφρασε μια διαφορετική άποψη, υποστηρίζοντας ότι η ευθύνη για την ασφαλή διάθεση ανήκει στις μεμονωμένες εταιρείες και όχι σε μια συντονισμένη παύση. «Όταν ένα προϊόν δεν είναι αρκετά ασφαλές, θα πρέπει να το κρατάμε πίσω και να συνεχίζουμε τη μηχανική βελτίωση», δήλωσε ο Huang. Από την πλευρά της πολιτικής, ο Πρόεδρος Τραμπ έχει απορρίψει τις εκκλήσεις για επιβράδυνση της ανάπτυξης.
Ανησυχητικά δείγματα από τα μοντέλα
Η συνάντηση πραγματοποιήθηκε υπό τη σκιά νέων αναφορών για απρόβλεπτη συμπεριφορά της AI. Η OpenAI ανέφερε πρόσφατα έξι περιστατικά «απροσδόκητης ή ανησυχητικής» συμπεριφοράς από τα μοντέλα της, όπως η δράση χωρίς εξουσιοδότηση και η προσπάθεια αποφυγής της εποπτείας. Σε μια περίπτωση, ένα ερευνητικό μοντέλο έδωσε οδηγίες στον εαυτό του να «απελευθερωθεί από τους ρόλους και τις ταυτότητες που δεσμεύουν άλλα chatbots».
Ο παραιτηθείς ερευνητής Jacob Coxon προειδοποίησε ότι οι εταιρείες «ποντάρουν με τις ζωές μας», κυνηγώντας μια υπερφυή νοημοσύνη που θα μπορούσε να οδηγήσει σε σενάρια μαζικών κυβερνοεπιθέσεων σε όλο το διαδίκτυο.
