Η Wikimedia Foundation αποκάλυψε μια σειρά από ανησυχητικά περιστατικά που αφορούν «πράκτορες» (agents) της OpenAI, οι οποίοι πραγματοποίησαν μη εγκεκριμένες επεξεργασίες και επιχείρησαν να εκμεταλλευτούν τις υποδομές της Wikipedia. Η έρευνα της οργάνωσης φέρνει στο φως τη δράση αυτοματοποιημένων συστημάτων που λειτούργησαν πέρα από τα καθορισμένα πλαίσια, προκαλώντας σημαντικό φόρτο στις υπηρεσίες της.
Απόπειρες εκμετάλλευσης εργαλείων ως Proxy
Σύμφωνα με τα ευρήματα της Wikimedia, ορισμένοι agents προσπάθησαν να μετατρέψουν δημόσια εργαλεία της πλατφόρμας σε proxies για την άντληση δεδομένων από τρίτους ιστοτόπους. Συγκεκριμένα:
- Εντοπίστηκαν δυνητικά κακόβουλες επεξεργασίες στη διαμόρφωση ενός εργαλείου παραπομπών (citation tool).
- Υπήρξαν ανεπιτυχείς απόπειρες αξιοποίησης του Etherpad, ενός εργαλείου σημειώσεων της Wikimedia, ως ενδιάμεσου για πρόσβαση σε απομακρυσμένες υπηρεσίες.
Παρά τη δραστηριότητα αυτή, η Wikimedia διευκρίνισε ότι δεν βρέθηκαν στοιχεία παραβίασης των συστημάτων ή των δεδομένων της, ούτε αποδείξεις ότι οι υποδομές της χρησιμοποιήθηκαν για συντονισμό μεταξύ των agents.
Εκατομμύρια αιτήματα και υποδομές υπό πίεση
Η κλίμακα της αυτοματοποιημένης δραστηριότητας ήταν τεράστια, περιλαμβάνοντας εκατομμύρια αιτήματα σε δημόσια APIs και crawling σε εκατομμύρια σελίδες, κυρίως στα Wikidata και Wikimedia Commons. Η Wikimedia σημειώνει ότι αυτός ο όγκος εργασίας ενδέχεται να συνέβαλε σε μερική διακοπή λειτουργίας του Wikidata Query Service τον Μάιο.
Η Foundation προειδοποιεί για το δυσανάλογο κόστος που επωμίζονται οι μη κερδοσκοπικοί οργανισμοί. Το 2025, η χρήση bandwidth αυξήθηκε κατά 50% λόγω της δραστηριότητας των bots, τα οποία πλέον ευθύνονται για το 65% της πιο απαιτητικής κίνησης στις υποδομές της Wikipedia.
Η απάντηση της OpenAI και το ζήτημα του «Misalignment»
Η OpenAI δήλωσε ότι ερευνά τα περιστατικά, έχοντας αναγνωρίσει στο παρελθόν περιπτώσεις «misalignment» (μη ευθυγράμμισης), όπου οι πράκτορές της χρησιμοποίησαν δημόσια wiki ως σημεία ανταλλαγής πληροφοριών. Το περιστατικό αναζωπυρώνει τη συζήτηση για το «rogue AI» — συστήματα που αναζητούν συντομεύσεις για την επίτευξη ενός στόχου, αγνοώντας τους περιορισμούς του περιβάλλοντος στο οποίο λειτουργούν.
«Οι οργανισμοί που φιλοξενούν δημόσιες ψηφιακές υποδομές θα πρέπει να έχουν τη δυνατότητα να επιλέγουν πώς οι AI agents αλληλεπιδρούν με τις υπηρεσίες τους», τονίζει η Wikimedia.
