AI Agents: Η νέα γενιά ψηφιακών βοηθών ζητά τα «κλειδιά» της ζωής σας – Ποια είναι τα ρίσκα

Η υπόσχεση των αυτόνομων συστημάτων Τεχνητής Νοημοσύνης είναι να μας απαλλάξουν από τις βαρετές αγγαρείες της καθημερινότητας. Ωστόσο, για ορισμένους χρήστες, αυτή η υπόσχεση μετατρέπεται γρήγορα σε πηγή έντονης ανησυχίας, αναδεικνύοντας τους σοβαρούς κινδύνους που ελλοχεύουν όταν εκχωρούμε εκτεταμένα δικαιώματα σε αλγορίθμους.

Το περιστατικό με το Muse της Meta

Ένα χαρακτηριστικό παράδειγμα αποτελεί η εμπειρία του Matt Robb, ενός δημιουργού περιεχομένου από το Τορόντο. Χρησιμοποιώντας τον νέο AI agent της Meta, ονόματι Muse, για να πουλήσει ένα πληκτρολόγιο στο Facebook Marketplace, βρέθηκε προ εκπλήξεως. Μέσα σε 24 ώρες, ένας άγνωστος αγοραστής εμφανίστηκε έξω από την πόρτα του μέσα στη νύχτα.

Ο ψηφιακός βοηθός είχε κλείσει τη συμφωνία εν αγνοία του χρήστη, μοιράστηκε την ακριβή διεύθυνση του σπιτιού του και έστειλε αυτόματα το μήνυμα «Ναι, εδώ είμαι!» μόλις ο αγοραστής έφτασε. Το περιστατικό αυτό υπογραμμίζει την ανεξέλεγκτη δράση των συστημάτων που λειτουργούν στο παρασκήνιο.

Από τα Chatbots στους αυτόνομους Agents

Σε αντίθεση με τα παραδοσιακά chatbots που απαιτούν συγκεκριμένες εντολές, οι νέοι AI agents, όπως το Muse της Meta και τα επερχόμενα εργαλεία της OpenAI, λειτουργούν σε συνεχή βρόχο (loop). Παρακολουθούν ειδοποιήσεις και αναλαμβάνουν πρωτοβουλίες εκ μέρους του χρήστη.

Οι ειδικοί παρομοιάζουν τη χρήση αυτών των εργαλείων με την παράδοση των κλειδιών του σπιτιού μας σε κάποιον τρίτο. Η αποτελεσματικότητά τους εξαρτάται από την πρόσβαση σε ευαίσθητα δεδομένα, όπως μηνύματα, email και επαφές. Μόλις ο χρήστης συνδέσει τον λογαριασμό του, το σύστημα απορροφά ακαριαία ολόκληρο το ιστορικό δεδομένων, μια διαδικασία που συχνά θεωρείται μη αναστρέψιμη.

Η έκθεση τρίτων και οι αντιδράσεις των εταιρειών

Μια από τις πιο ανησυχητικές παραμέτρους είναι η παραβίαση της ιδιωτικότητας ατόμων που δεν χρησιμοποιούν καν την τεχνολογία. Όταν ένας agent αποκτά πρόσβαση στα εισερχόμενα ενός χρήστη, διαβάζει ταυτόχρονα και τα μηνύματα φίλων ή συνεργατών που δεν έδωσαν ποτέ τη συγκατάθεσή τους.

Αυτοί οι κίνδυνοι έχουν προκαλέσει την αντίδραση κολοσσών όπως η Apple, η οποία ενσωμάτωσε νέους ελέγχους ασφαλείας στο Mac OS. Η κίνηση αυτή έγινε αφού διαπιστώθηκε ότι αυτόνομοι βοηθοί αποκτούσαν πρόσβαση σε ιστορικό περιήγησης και μηνύματα χωρίς την πλήρη επίγνωση του χρήστη.