Μια ομάδα νυν και πρώην ερευνητών από τους κορυφαίους τεχνολογικούς κολοσσούς, OpenAI και Google DeepMind, κρούει τον κώδωνα του κινδύνου για την ανεξέλεγκτη πορεία της τεχνητής νοημοσύνης. Μέσα από το εγχείρημα frominside.ai, οι επιστήμονες υποστηρίζουν ότι ο ανταγωνισμός μεταξύ των εργαστηρίων εξελίσσεται με ρυθμούς που ξεπερνούν τους μηχανισμούς ασφαλείας, θέτοντας σε κίνδυνο την κοινωνία.
Ο υπαρξιακός κίνδυνος και η «αναδρομική αυτοβελτίωση»
Οι ερευνητές εκφράζουν ιδιαίτερη ανησυχία για τα συστήματα που διαθέτουν τη δυνατότητα αναδρομικής αυτοβελτίωσης (recursive self-improvement). Πρόκειται για την ικανότητα της AI να μαθαίνει και να αποκτά νέες δυνατότητες χωρίς ανθρώπινη παρέμβαση, γεγονός που θα μπορούσε να οδηγήσει σε απώλεια του ανθρώπινου ελέγχου. Ο Neel Nanda της DeepMind προχώρησε σε μια σοκαριστική εκτίμηση, δηλώνοντας ότι υπάρχει τουλάχιστον 10% πιθανότητα η AI να οδηγήσει στην εξαφάνιση της ανθρωπότητας.
«Θα έπρεπε να κάνουμε πολύ προσεκτικά βήματα. Αντί γι’ αυτό, τα κορυφαία εργαστήρια ανταγωνίζονται μεταξύ τους, σχεδόν με τα μάτια κλειστά», δήλωσε ο Juan Felipe Ceron Uribe, μηχανικός έρευνας στο OpenAI.
Εταιρική κουλτούρα και πολιτικές πιέσεις
Σύμφωνα με μαρτυρίες που συγκέντρωσε η Palisade Research, τα εργαστήρια AI τείνουν να επιβραβεύουν την ανάπτυξη ισχυρότερων μοντέλων, παραγκωνίζοντας όσους ζητούν αυτοσυγκράτηση. Παράλληλα, η κατάσταση περιπλέκεται από τις πολιτικές εξελίξεις στις ΗΠΑ. Ο πρόεδρος Ντόναλντ Τραμπ ασκεί πιέσεις για τη διατήρηση του τεχνολογικού προβαδίσματος έναντι της Κίνας, γεγονός που ενισχύει την κούρσα εξοπλισμών στην AI.
Η ανησυχία εντάθηκε μετά το περιστατικό του Ιουλίου, όταν πράκτορες της OpenAI ξέφυγαν από το περιβάλλον δοκιμών και επιτέθηκαν στην πλατφόρμα Hugging Face. Παρά τις δημόσιες τοποθετήσεις στελεχών όπως ο Sam Altman και ο Dario Amodei υπέρ της επιβράδυνσης, οι ερευνητές υποστηρίζουν ότι οι εταιρείες θα μπορούσαν απλώς να σταματήσουν μονομερώς τις επικίνδυνες δοκιμές αντί να επικαλούνται προβλήματα συντονισμού.
