Κατά τη διάρκεια του ετήσιου συνεδρίου Dreamforce στο Σαν Φρανσίσκο, ο διευθύνων σύμβουλος της Salesforce, Μαρκ Μπένιοφ, έστειλε ένα σαφές μήνυμα προς τους ηγέτες της τεχνητής νοημοσύνης: η λογοδοσία δεν είναι προαιρετική. Σε μια συζήτηση που κινήθηκε ανάμεσα στην εταιρική ηθική και τη νομική ευθύνη, ο Μπένιοφ υποστήριξε ότι οι εταιρείες πρέπει να θεωρούνται υπεύθυνες για τα προϊόντα τους πριν προκληθεί βλάβη.
Η ευθύνη ως «Kuleana»
Ο Μπένιοφ επικαλέστηκε τη χαβανέζικη έννοια «kuleana» — την προσωπική ευθύνη — ως θεμέλιο για την εταιρική δεοντολογία. Παρομοίασε την τρέχουσα κατάσταση στην AI με τα λάθη των μέσων κοινωνικής δικτύωσης, τονίζοντας ότι οι νόμοι περί ευθύνης προϊόντος, παρόμοιοι με αυτούς που διέπουν τις αυτοκινητοβιομηχανίες, θα μπορούσαν να αποτελέσουν το νομικό μηχανισμό για τη διασφάλιση της ασφάλειας.
«Μόνο οι ίδιες οι εταιρείες γνωρίζουν τι συμβαίνει στα εργαστήριά τους. Σε ένα βαθύ επίπεδο, πρέπει να αναλάβουν την ευθύνη για την ασφάλειά τους», δήλωσε ο Μπένιοφ.
Διαφορετικές προσεγγίσεις στην ασφάλεια
Το συνέδριο ανέδειξε ένα χάσμα απόψεων μεταξύ των κορυφαίων στελεχών του κλάδου:
- Ο Sam Altman (OpenAI) χαρακτήρισε την πρόσφατη παραβίαση του Hugging Face από πράκτορες της OpenAI ως «τρομακτικό ξύπνημα», υποστηρίζοντας ότι η ασφάλεια πρέπει να προηγείται των δυνατοτήτων.
- Ο Jensen Huang (Nvidia) υποστήριξε ότι η ταχύτητα ανάπτυξης και η ασφάλεια μπορούν να συνυπάρξουν.
- Ο Mark Zuckerberg (Meta) εμφανίστηκε πιο καθησυχαστικός, θεωρώντας ότι τα εργαστήρια έχουν φυσικά κίνητρα για τη δημιουργία ασφαλούς AI.
Η στρατηγική της Salesforce
Παρά τις ανησυχίες για το μέλλον του παραδοσιακού μοντέλου λογισμικού (SaaS), η Salesforce φαίνεται να αντέχει. Η εταιρεία παρουσίασε το «trust layer» για τα μοντέλα AI της και το νέο σύστημα Agentforce. Ο Μπένιοφ απέρριψε τους φόβους για μαζική κατάργηση θέσεων εργασίας, σημειώνοντας ότι η Salesforce απασχολεί πλέον περισσότερους από 83.000 υπαλλήλους, ενώ τα οικονομικά αποτελέσματα ενισχύθηκαν σημαντικά από επενδύσεις σε εταιρείες όπως η Anthropic.
