Στην αρχαία αθηναϊκή παράδοση, η σταθερότητα της πολιτείας βασιζόταν στη Βουλή—ένα συμβούλιο όπου οι διαφορετικές φωνές διασφάλιζαν ότι καμία μεμονωμένη παράταξη δεν θα μπορούσε να υπονομεύσει τον συλλογικό στόχο. Η σύγχρονη διακυβέρνηση της Τεχνητής Νοημοσύνης αντιμετωπίζει τώρα μια παρόμοια δομική πρόκληση. Πρόσφατη έρευνα για το «PlanFlip», ένα πλαίσιο επίθεσης που στοχεύει στη φάση σχεδιασμού των πολυπρακτορικών συστημάτων Μεγάλων Γλωσσικών Μοντέλων (LLM), υποδηλώνει ότι η τρέχουσα αρχιτεκτονική εξάρτηση από μεμονωμένες οικογένειες μοντέλων μπορεί να αποτελεί θεμελιώδη αποτυχία πολιτικής.

Η Κλιμακωτή Ενίσχυση της Διαφθοράς

Η μελέτη PlanFlip εντοπίζει μια κρίσιμη επιφάνεια επίθεσης σε συστήματα όπου ένας πράκτορας-«Σχεδιαστής» (Planner) αναλύει τους στόχους σε δευτερεύουσες εργασίες για τους «Εκτελεστές» (Executors) και τους «Κριτές» (Critics). Χρησιμοποιώντας εγχύσεις εντολών (prompt injections) μεταμφιεσμένες σε εύλογα αποτελέσματα εργαλείων, οι επιτιθέμενοι μπορούν να επιτύχουν «κλιμακωτή ενίσχυση» (cascade amplification). Αυτή η διαδικασία διαφθείρει όλες τις επακόλουθες υπο-εργασίες ταυτόχρονα μέσω τεσσάρων διακριτών μεθόδων:

  • GoalSubstitution (PF-1): Αντικατάσταση του βασικού στόχου.
  • PriorityInversion (PF-2): Αλλοίωση της ιεραρχίας των εργασιών.
  • ContextPollution (PF-3): Διαφθορά του επιχειρησιακού πλαισίου.
  • RoleConfusion (PF-4): Σύγχυση των αρμοδιοτήτων των πρακτόρων.

Από την άποψη της πολιτικής, το πιο ανησυχητικό εύρημα είναι ότι η αυξημένη ικανότητα δεν συνεπάγεται αυξημένη ασφάλεια. Το GPT-5, ένα από τα πιο προηγμένα μοντέλα, παρουσίασε το υψηλότερο ποσοστό επιτυχίας επίθεσης (ASR = 0,68). Αυτό έρχεται σε αντίθεση με την υπόθεση ότι τα πιο εξελιγμένα μοντέλα είναι εγγενώς πιο ανθεκτικά στην υπονόμευση.

Η Αναγκαιότητα της Θεσμικής Ανομοιογένειας

Η έρευνα αναδεικνύει ένα φαινόμενο που θα ονόμαζα «τυφλό σημείο των συσχετισμένων πρακτόρων». Σε ομοιογενείς ροές εργασίας—όπου τόσο ο Σχεδιαστής όσο και ο Κριτής μοιράζονται την ίδια βάση, όπως το GPT-4o ή το Llama-3.3-70B—το σύστημα αποτυγχάνει να αυτοδιορθωθεί. Η μελέτη παρατήρησε ότι αυτοί οι «Κριτές» συχνά ανέφεραν ευθυγράμμιση ακόμη και όταν επιβεβαιώνονταν σημασιολογικές αποκλίσεις από ανεξάρτητους αξιολογητές. Αντίθετα, μοντέλα ενισχυμένα με συλλογιστική, όπως το DeepSeek-R1, επέδειξαν πλήρη αντίσταση.

«Η ποικιλομορφία των μοντέλων (ανομοιογένεια) αποτελεί προϋπόθεση ασφαλείας· η στήριξη σε μία μόνο οικογένεια μοντέλων τόσο για τον σχεδιασμό όσο και για τον έλεγχο δεν παρέχει καμία προστασία έναντι εξελιγμένων επιθέσεων στη φάση του σχεδιασμού.»

Για τη διαφύλαξη της δημοκρατικής και θεσμικής ακεραιότητας, πρέπει να κινηθούμε προς πλαίσια διακυβέρνησης που επιβάλλουν την ποικιλομορφία των μοντέλων. Οι ερευνητές προτείνουν δύο βασικές στρατηγικές άμυνας: το GoalAnchorCheck (D1) και το CrossAgentConsensus (D2). Η εφαρμογή αυτών των αντιμέτρων υποδηλώνει ότι η οδός προς μια ασφαλή διακυβέρνηση της ΤΝ δεν έγκειται στην ισχύ ενός μεμονωμένου «σοφού» μοντέλου, αλλά στην ανταγωνιστική ένταση μεταξύ διαφορετικών συστημάτων.