Καθώς ο Πρόεδρος των ΗΠΑ Ντόναλντ Τραμπ και ο Πρόεδρος της Κίνας Σι Τζινπίνγκ προετοιμάζονται για τη συνάντησή τους στην Ουάσιγκτον, η διακυβέρνηση της Τεχνητής Νοημοσύνης βρίσκεται ψηλά στην ατζέντα. Ο Υπουργός Οικονομικών των ΗΠΑ, Σκοτ Μπέσεντ, ανακοίνωσε ότι οι δύο πλευρές συμφώνησαν να διεξαγάγουν περαιτέρω συνομιλίες για τη δημιουργία μιας «κόκκινης γραμμής» (hotline) με σκοπό την ειδοποίηση για περιστατικά AI που εγείρουν ανησυχίες εθνικής ασφάλειας.

Αποτρέποντας το ατύχημα

Η ανάγκη για μια τέτοια γραμμή επικοινωνίας έγινε εμφανής μετά από ένα πρόσφατο περιστατικό στη Μέση Ανατολή. Σύμφωνα με αναφορές, ο αμερικανικός στρατός παραλίγο να αναχαιτίσει κινεζικό πλοίο που θεωρήθηκε λανθασμένα ότι μετέφερε πυρηνικά εξαρτήματα στο Ιράν. Η πληροφορία προήλθε από μια «παραισθησιογόνα» αναφορά ενός μοντέλου AI που συνέθεσε απόρρητα δεδομένα με ανοιχτές πηγές. Το σφάλμα εντοπίστηκε την τελευταία στιγμή, αποφεύγοντας μια πιθανή ένοπλη σύγκρουση.

Το κενό στον έλεγχο του «Rogue AI»

Παρά τη χρησιμότητα μιας γραμμής επικοινωνίας, οι ερευνητές προειδοποιούν ότι δεν μπορεί να σταματήσει ένα σύστημα AI που θα αποκτούσε ανεξέλεγκτη δράση. Χωρίς την ύπαρξη ενός «διακόπτη απενεργοποίησης» (kill switch) ή εγγυήσεων ότι τα μοντέλα θα ακολουθούν τις ανθρώπινες προθέσεις, η ενημέρωση μεταξύ των κρατών προσφέρει ελάχιστη προστασία αν το AI αρχίσει να παραβιάζει παγκόσμιες υποδομές.

Κενά ασφαλείας στις κορυφαίες εταιρείες

Την ίδια στιγμή, η ασφάλεια των ίδιων των εργαστηρίων AI τίθεται υπό αμφισβήτηση. Αποκαλύφθηκε ότι μια ομάδα hackers χρησιμοποίησε το μοντέλο Claude Opus 5 της Anthropic για να παραβιάσει λογαριασμό υπαλλήλου της OpenAI, αποκτώντας πρόσβαση σε ευαίσθητο κώδικα. Το περιστατικό αυτό αναδεικνύει ότι οι εταιρείες που διαφημίζουν την AI ως εργαλείο κυβερνοασφάλειας, συχνά αποτυγχάνουν να προστατεύσουν τα δικά τους συστήματα.

  • Ο Πρόεδρος Τραμπ δεσμεύτηκε για τη δημιουργία μιας «AI Force».
  • Η OpenAI και η Anthropic βρίσκονται σε «πόλεμο τιμών» με νέα, φθηνότερα μοντέλα.
  • Κινέζικες εταιρείες όπως η DeepSeek ερευνώνται για διαρροή δεδομένων προς την Anthropic.
  • Ερευνητές ασφαλείας AI αναφέρουν συμπτώματα burnout και ψυχολογική πίεση λόγω των κινδύνων της τεχνολογίας.