Ο Μαρκ Ζούκερμπεργκ πήρε σαφή θέση στην έντονη αντιπαράθεση για το αν η ανάπτυξη της Τεχνητής Νοημοσύνης πρέπει να επιβραδυνθεί για την αποφυγή καταστροφικών σεναρίων. Ο CEO της Meta διαφοροποιήθηκε από τους υποστηρικτές της αυστηρής επιτήρησης, όπως ο CEO της Anthropic, Dario Amodei, υποστηρίζοντας ότι οι δυνάμεις της αγοράς αποτελούν επαρκή δικλείδα ασφαλείας.
Το επιχείρημα της αγοράς
Σε ανάρτησή του την Τρίτη, ο Ζούκερμπεργκ υποστήριξε ότι οι εταιρείες έχουν ισχυρά κίνητρα να ευθυγραμμίσουν τα μοντέλα τους με τις ανάγκες των χρηστών. «Οι άνθρωποι δεν θα θέλουν να χρησιμοποιούν πράκτορες (agents) που δεν είναι ευθυγραμμισμένοι μαζί τους ή που δεν κάνουν αυτό που τους ζητείται», έγραψε, τονίζοντας ότι η ικανοποίηση του πελάτη θα οδηγήσει στην ασφάλεια.
Ως παράδειγμα αυτορρύθμισης, ανέφερε την απόφαση της Meta να καθυστερήσει την κυκλοφορία του Muse, του AI πράκτορα που παρουσιάστηκε νωρίτερα αυτόν τον μήνα, λόγω ανησυχιών για την ασφάλεια. Ο Ζούκερμπεργκ τόνισε ότι η εταιρεία του έπραξε το σωστό χωρίς να απαιτήσει από τον υπόλοιπο κλάδο να σταματήσει την ανάπτυξη.
Μια διχασμένη βιομηχανία
Η παρέμβαση του Ζούκερμπεργκ έρχεται σε μια στιγμή που η ασφάλεια της AI βρίσκεται στο μικροσκόπιο μετά από πρόσφατα περιστατικά παραβίασης μοντέλων της OpenAI. Την ίδια στιγμή, ο πρώην ερευνητής της Anthropic, Jacob Coxon, προειδοποίησε ότι οι εταιρείες «τζογάρουν με τις ζωές μας» στην κούρσα για την υπερφυή νοημοσύνη.
Στο συνέδριο Dreamforce της Salesforce, οι διαφορετικές προσεγγίσεις έγιναν εμφανείς. Ο Dario Amodei παρομοίασε την κατάσταση με την αυτοκινητοβιομηχανία, καλώντας τις εταιρείες να εξετάζουν τα δικά τους πρωτόκολλα ασφαλείας όταν συμβαίνει ένα ατύχημα στον κλάδο. Αντίθετα, ο Jensen Huang της Nvidia υποστήριξε ότι η καινοτομία και η ασφάλεια δεν είναι αλληλοαποκλειόμενες, προτρέποντας τις εταιρείες να «τρέξουν όσο πιο γρήγορα μπορούν».
«Η καινοτομία, η ταχύτητα και τα ασφαλή προϊόντα — είναι μια ψευδής επιλογή. Μπορείς σίγουρα να έχεις και τα δύο ταυτόχρονα», δήλωσε ο Huang.
Ο Ζούκερμπεργκ φαίνεται να συμφωνεί, δηλώνοντας ότι η Meta εστιάζει το μεγαλύτερο μέρος της υπολογιστικής της ισχύος στην εξυπηρέτηση των ανθρώπων και όχι στην ανάπτυξη συστημάτων που βελτιώνονται αναδρομικά από μόνα τους.
