Ο David Robinson, ο άνθρωπος που ήταν υπεύθυνος για τη σύνταξη των αναφορών ασφαλείας που συνόδευαν κάθε σημαντική κυκλοφορία μοντέλου στην OpenAI, ανακοίνωσε την παραίτησή του αυτή την εβδομάδα. Μέσω ενός άρθρου γνώμης στο περιοδικό The Atlantic, ο Robinson κρούει τον κώδωνα του κινδύνου, υποστηρίζοντας ότι η κουλτούρα στον κλάδο της τεχνητής νοημοσύνης είναι «θεμελιωδώς κατεστραμμένη».
Η κριτική στη Silicon Valley
Σύμφωνα με τον Robinson, το πρόβλημα είναι βαθύτερο από την απλή έλλειψη κανόνων. Κατηγορεί τη Silicon Valley ότι λειτουργεί με «ακραία αυτοπεποίθηση» και σε κατάσταση «διαρκών αγώνων δρόμου» (sprints), αναπτύσσοντας ολοένα μεγαλύτερα μοντέλα με μια «ανεμπόδιστη αισιοδοξία» που αγνοεί ή υποτιμά τους πιθανούς κινδύνους.
Ο ίδιος υποστηρίζει ότι οι εταιρείες AI πρέπει να αναπτύξουν μια αίσθηση ταπεινότητας και να κοιτάξουν πέρα από τον απομονωμένο κόσμο της τεχνολογίας, ο οποίος παραδοσιακά κινείται με τη λογική του «προχώρα γρήγορα και σπάσε πράγματα».
Ανάγκη για πυρηνικές δικλείδες ασφαλείας
Ο Robinson προτείνει ότι τα εργαστήρια τεχνητής νοημοσύνης αιχμής πρέπει να λειτουργούν με πρότυπα παρόμοια με εκείνα των πυρηνικών σταθμών ή των πολυσύχναστων αεροδρομίων. Συγκεκριμένα, ζητά:
- Πολλαπλά επίπεδα εφεδρείας (redundancy).
- Προσεκτικό και χρονοβόρο σχεδιασμό.
- Δικλείδες που να αποτρέπουν την καταστροφή από ένα αναπόφευκτο ανθρώπινο λάθος.
Ένα αυξανόμενο κύμα αποχωρήσεων
Η παραίτηση του Robinson δεν είναι μεμονωμένο περιστατικό, αλλά μέρος ενός ευρύτερου κύματος αποχωρήσεων ερευνητών ασφαλείας από κορυφαίες εταιρείες AI. Το άρθρο αναφέρει ονόματα όπως ο Jacob Coxon (πρώην Anthropic), ο οποίος δήλωσε ότι η AI «θα μπορούσε να μας σκοτώσει όλους μέχρι το τέλος της δεκαετίας», καθώς και στελέχη από την Google DeepMind όπως οι Robert O’Callahan, Bilal Chughtai και Josh Engels.
