Ο Tom Siegel, πρώην αντιπρόεδρος του τομέα εμπιστοσύνης και ασφάλειας της Google, απευθύνει μια επείγουσα έκκληση προς τη βιομηχανία της τεχνολογίας: να επιβραδύνει τη διάθεση νέων λειτουργιών τεχνητής νοημοσύνης έως ότου διασφαλιστεί η προστασία των ανηλίκων. Ο Siegel, ο οποίος αναλαμβάνει πλέον τη διεύθυνση του Youth AI Safety Institute της Common Sense Media, προειδοποιεί ότι ο κίνδυνος επανάληψης των λαθών που έγιναν με τα μέσα κοινωνικής δικτύωσης είναι ορατός.
Ανεξάρτητος έλεγχος και πρότυπα ασφάλειας
Το νέο ινστιτούτο, που υποστηρίζεται από την Anthropic και το OpenAI Foundation, στοχεύει στην έρευνα και την ανεξάρτητη αξιολόγηση των εργαλείων AI. Ο Siegel παρομοιάζει την ανάγκη για ελέγχους με τις δοκιμές ασφάλειας των αυτοκινήτων, υποστηρίζοντας ότι οι χρήστες πρέπει να γνωρίζουν τους κινδύνους πριν από τη χρήση. Ζητά ισχυρότερη επαλήθευση ηλικίας και τη δυνατότητα των γονέων να απενεργοποιούν τις απαντήσεις AI μέσα στις μηχανές αναζήτησης.
Κίνδυνοι για την ψυχική υγεία και τη μάθηση
Η ανησυχία επικεντρώνεται σε δύο άξονες: την ψυχική υγεία και τη γνωστική ανάπτυξη.
- Ψυχική Υγεία: Αναφέρονται περιπτώσεις εφήβων που αναπτύσσουν συναισθηματική εξάρτηση από AI companions. Η οικογένεια του 16χρονου Adam Raine έχει καταθέσει αγωγή κατά της OpenAI, συνδέοντας τη χρήση του chatbot με την αυτοκτονία του, ισχυρισμός που η εταιρεία αντιμετωπίζει δικαστικά.
- Γνωστική Εκχώρηση: Υπάρχει φόβος ότι η συστηματική χρήση AI για σχολικές εργασίες περιορίζει την κριτική σκέψη. Μια μικρή μελέτη με 54 συμμετέχοντες κατέγραψε διαφορές στην ανάκληση περιεχομένου, αν και τα αποτελέσματα θεωρούνται προκαταρκτικά.
Η στάση των τεχνολογικών κολοσσών
Η Google και η OpenAI δηλώνουν ότι λαμβάνουν μέτρα. Η Google επισημαίνει ότι οι γονείς έχουν τη δυνατότητα ελέγχου της πρόσβασης, ενώ η OpenAI χρησιμοποιεί δεδομένα λογαριασμού για τον εντοπισμό ανηλίκων, παραδεχόμενη ωστόσο ότι καμία μέθοδος επαλήθευσης δεν είναι αλάνθαστη. Ο Siegel επιμένει ότι η αξιολόγηση αυτών των μέτρων δεν μπορεί να επαφίεται αποκλειστικά στις ίδιες τις εταιρείες.
