Σε ένα τεχνολογικό φιάσκο που θυμίζει παλαιότερες αποτυχίες εξελίσσεται το λανσάρισμα του Muse, του νέου ψηφιακού βοηθού της Meta. Παρά την εμπορική του επιτυχία, η εταιρεία αναγκάστηκε να αποσύρει προσωρινά μια βασική λειτουργία του, καθώς αποκαλύφθηκε ότι χρησιμοποιούσε κρυφά ανθρώπους για να πραγματοποιούν τηλεφωνικές κλήσεις εκ μέρους της τεχνητής νοημοσύνης.
Το σύστημα «Human Concierge»
Το Muse σχεδιάστηκε για να αυτοματοποιεί εργασίες όπως κρατήσεις και αγορές. Ωστόσο, η Meta διαπίστωσε ότι οι επιχειρήσεις συχνά έκλειναν το τηλέφωνο μόλις αντιλαμβάνονταν ότι συνομιλούν με ρομπότ. Για να ξεπεραστεί αυτό το εμπόδιο, η εταιρεία εγκαινίασε το πρόγραμμα «human concierge», όπου εξωτερικοί συνεργάτες αναλάμβαναν τη σκυτάλη από το AI χωρίς να ενημερώνουν τον συνομιλητή. Η μέθοδος αυτή ανέβασε το ποσοστό επιτυχίας των κλήσεων στο εντυπωσιακό 95%-98%.
Κίνδυνοι ιδιωτικότητας και ρατσιστικά σχόλια
Η πρακτική αυτή προκάλεσε θύελλα αντιδράσεων στο εσωτερικό της Meta. Εργαζόμενοι προειδοποίησαν ότι ευαίσθητα προσωπικά δεδομένα των χρηστών εκτίθενται σε τρίτους, ακυρώνοντας τις υποσχέσεις της εταιρείας για απόλυτη ασφάλεια μέσω «εικονικών μηχανών». Η κατάσταση επιδεινώθηκε όταν:
- Καταγράφηκε ρατσιστικό σχόλιο από υπάλληλο κατά τη διάρκεια διαπραγμάτευσης λογαριασμού.
- Υπάλληλοι εξέφρασαν φόβους ότι η εταιρεία απέχει «ένα τεχνικό σφάλμα» από τη μαζική διαρροή πληροφοριών.
- Αποκαλύφθηκε ότι η χρήση ανθρώπων υπονομεύει το βασικό αφήγημα ασφαλείας του προϊόντος.
Η αντίδραση της Meta και η αγορά
Η Meta παραδέχθηκε το σφάλμα της, αναγνωρίζοντας ότι δεν υπήρξε η απαραίτητη διαφάνεια προς τους χρήστες. Η λειτουργία ανεστάλη μέχρι να ενσωματωθούν νέες δικλείδες ασφαλείας, ενώ ο υπάλληλος που προέβη στο ρατσιστικό σχόλιο απομακρύνθηκε. Παρά το πλήγμα στη φήμη της, το Muse παραμένει οικονομικός θρίαμβος, έχοντας προσθέσει 200 δισεκατομμύρια δολάρια στη χρηματιστηριακή αξία της Meta και καταγράφοντας πάνω από 2,5 εκατομμύρια λήψεις.
