Η χρήση της τεχνητής νοημοσύνης στο πεδίο της μάχης έφερε στο προσκήνιο την επιχείρηση «Epic Fury» των ΗΠΑ στο Ιράν, όπου το σύστημα Maven Smart System της Palantir Technologies επέτρεψε τον εντοπισμό και το πλήγμα περισσότερων από 13.000 στόχων μέσα σε μόλις 38 ημέρες. Ωστόσο, η ταχύτητα αυτή συνοδεύτηκε από μια τραγωδία που εγείρει σοβαρά ερωτήματα για την ηθική και την ακρίβεια των αυτόματων συστημάτων.
Η τραγωδία στη Μιναμπ και το κενό πληροφοριών
Στις 28 Φεβρουαρίου, ένα πλήγμα σε σχολείο στην πόλη Μιναμπ του Ιράν στοίχισε τη ζωή σε περισσότερα από 120 παιδιά. Το κτίριο, το οποίο παλαιότερα αποτελούσε στρατιωτική εγκατάσταση, παρέμενε καταχωρισμένο ως στόχος στην κύρια βάση δεδομένων πληροφοριών (MIDB) των ΗΠΑ, παρά το γεγονός ότι αναλυτής είχε επισημάνει την αλλαγή χρήσης του ήδη από το 2019. Το σύστημα Maven, βασιζόμενο σε αυτά τα παρωχημένα δεδομένα, δεν μπόρεσε να αναγνωρίσει το λάθος.
- Περισσότεροι από 1.000 στόχοι επλήγησαν μόνο την ημέρα της επίθεσης στο σχολείο.
- Το Maven δεν μπορεί να διαγράψει μόνο του έναν στόχο από τη βάση δεδομένων.
- Οι λογαριασμοί του συστήματος στις αμερικανικές δυνάμεις διπλασιάστηκαν μέσα σε έναν χρόνο, φτάνοντας τις 50.000.
Αναβαθμίσεις και η έκθεση του ΟΗΕ
Μετά το περιστατικό, η Κεντρική Διοίκηση των ΗΠΑ (CENTCOM) και η Palantir προχώρησαν σε δεκάδες αναβαθμίσεις του Maven. Οι αλλαγές περιλαμβάνουν τη χρήση «πρακτόρων AI» για τον εντοπισμό ανωμαλιών στα δεδομένα και την ενσωμάτωση ανοικτών πηγών για την παρακολούθηση της κίνησης αμάχων. Παρόλα αυτά, έκθεση του Συμβουλίου Ανθρωπίνων Δικαιωμάτων του ΟΗΕ διαπίστωσε «εύλογους λόγους» να θεωρηθεί το πλήγμα έγκλημα πολέμου, κατηγορώντας τις ΗΠΑ για αμέλεια που ξεπερνά τα όρια του τυχαίου λάθους.
«Η ταχύτητα και η αυτοματοποίηση απλώς σημαίνουν ότι τα ίδια λάθη συμβαίνουν ταχύτερα και σε μεγαλύτερη κλίμακα», προειδοποίησε ο Λάρι Λιούις, ειδικός στην αυτονομία και την AI.
