Η Anthropic έκανε το πρώτο βήμα για την υλοποίηση των δεσμεύσεών της σχετικά με την ασφάλεια της τεχνητής νοημοσύνης, παραχωρώντας σε εξωτερικούς αξιολογητές πρόσβαση «επιπέδου υπαλλήλου» στα εσωτερικά της συστήματα. Η κίνηση αυτή έρχεται ως απάντηση στις αυξανόμενες ανησυχίες ότι η τεχνολογία θα μπορούσε να ξεφύγει από κάθε έλεγχο, προκαλώντας καταστροφικές συνέπειες στην οικονομία και την κυβερνοασφάλεια.
Εσωτερικός έλεγχος από την METR
Ο μη κερδοσκοπικός οργανισμός METR, ο οποίος έχει συνεργαστεί στο παρελθόν με κολοσσούς όπως η OpenAI, η Google και η Meta, διαθέτει πλέον μια ομάδα έξι ατόμων εγκατεστημένη στα γραφεία της Anthropic. Οι ερευνητές αυτοί έχουν πρόσβαση στο υλικό (hardware) και τα εσωτερικά εργαλεία της εταιρείας, σε επίπεδο αντίστοιχο με αυτό των εσωτερικών ομάδων αξιολόγησης κινδύνου.
Σύμφωνα με την Anthropic, η METR θα μπορεί να δημοσιεύει τις αναλύσεις της χωρίς την έγκριση της εταιρείας. Ωστόσο, η Anthropic διατηρεί το δικαίωμα να ζητήσει την απόκρυψη συγκεκριμένων ευαίσθητων πληροφοριών, όπως δεδομένα πελατών ή λεπτομέρειες για την αρχιτεκτονική των μοντέλων.
Οικονομικό πλαίσιο και IPO
Η πρωτοβουλία αυτή συμπίπτει με την προετοιμασία της Anthropic για την αρχική δημόσια προσφορά (IPO) εντός του έτους, με την αποτίμησή της να αναμένεται να ξεπεράσει τα 2 τρισεκατομμύρια δολάρια. Η εταιρεία δέχεται πιέσεις από επενδυτές να αποδείξει ότι τα ζητήματα ασφάλειας δεν θα εμποδίσουν την εμπορική της πορεία. Στο πλαίσιο αυτό, η Anthropic συνεργάζεται επίσης με την Accenture, με τις δύο εταιρείες να δεσμεύουν τουλάχιστον 1 δισεκατομμύριο δολάρια η καθεμία για τη δημιουργία νέων δικλείδων ασφαλείας.
Αντιδράσεις και κριτική
Παρά την υποστήριξη της πρότασης από ηγέτες του κλάδου όπως ο Sam Altman και ο Elon Musk, ορισμένοι επικριτές προειδοποιούν για πιθανή σύγκρουση συμφερόντων, παρομοιάζοντας την κατάσταση με προβλήματα που έχουν παρατηρηθεί στον λογιστικό κλάδο. Η Anthropic, από την πλευρά της, παρομοιάζει το μοντέλο αυτό με την τραπεζική εποπτεία, όπου οι ρυθμιστικές αρχές τοποθετούν εξεταστές εντός των μεγάλων τραπεζών για την πρόληψη κινδύνων.
