Δύο από τις σημαντικότερες προσωπικότητες στον χώρο της τεχνητής νοημοσύνης, ο νομπελίστας Τζέφρι Χίντον και ο Καναδός επιστήμονας Γιόσουα Μπέντζιο, προειδοποιούν τις κυβερνήσεις για μια επικείμενη «έκρηξη νοημοσύνης». Στην έκθεσή τους, την οποία συνυπογράφουν περισσότεροι από 20 ειδικοί, περιγράφουν μια εξέλιξη που θα μπορούσε να αποδειχθεί η κρισιμότερη στην ιστορία της τεχνολογίας, απειλώντας τον ανθρώπινο έλεγχο.
Ο κίνδυνος της αναδρομικής αυτοβελτίωσης
Η ανησυχία των επιστημόνων επικεντρώνεται στην ικανότητα των συστημάτων AI να βελτιώνουν τον εαυτό τους χωρίς ανθρώπινη παρέμβαση, μια διαδικασία γνωστή ως «αναδρομική αυτοβελτίωση». Σύμφωνα με την έκθεση, αν τα συστήματα αυτά αποκτήσουν ικανότητες ειδικού στην έρευνα και ανάπτυξη, ένας και μόνο προγραμματιστής θα μπορούσε να διαχειριστεί ένα ψηφιακό εργατικό δυναμικό ισοδύναμο με εκατομμύρια κορυφαίους ερευνητές.
Αυτή η αυτοματοποίηση της έρευνας θα μπορούσε να συμπιέσει την πρόοδο ετών σε διάστημα μηνών ή και εβδομάδων. Ήδη, η Anthropic αναφέρει ότι το 80% του κώδικά της παράγεται από AI, ενώ η OpenAI χρησιμοποιεί αυτόνομους πράκτορες για την εκπαίδευση νέων μοντέλων.
Προτάσεις για άμεση δράση
Οι συντάκτες της έκθεσης, στους οποίους περιλαμβάνονται στελέχη από την Anthropic και την OpenAI, προτείνουν τρεις βασικούς άξονες πολιτικής:
- Υποχρεωτικές και διαφανείς αναφορές προόδου με την παρουσία ανεξάρτητων ελεγκτών εντός των εταιρειών.
- Θέσπιση μηχανισμών για τον περιορισμό της ανεξέλεγκτης ανάπτυξης.
- Προετοιμασία των κρατικών δομών για την προσαρμογή σε ένα περιβάλλον υπερ-νοημοσύνης.
Η μελέτη καταλήγει με μια αυστηρή προειδοποίηση: μόλις ξεκινήσει η έκρηξη νοημοσύνης, το χρονικό περιθώριο για την επιβολή ελέγχων ενδέχεται να κλείσει οριστικά, διαβρώνοντας την εξουσία κρατών και θεσμών.
