Η εμφάνιση της «πρακτορικής» τεχνητής νοημοσύνης (agentic AI) έχει αλλάξει ριζικά το τοπίο της κυβερνοασφάλειας, επιταχύνοντας τον εντοπισμό και τη διόρθωση τρωτών σημείων στο λογισμικό. Ωστόσο, ο έμπειρος ερευνητής ασφάλειας ιστού James Kettle θέλησε να διερευνήσει ένα πιο σύνθετο ερώτημα: μπορεί η AI να αναπτύξει εντελώς νέες, αφηρημένες μεθόδους hacking από το μηδέν;
Τα όρια της αυτονομίας και η δύναμη της συνεργασίας
Παρουσιάζοντας τα ευρήματά του στο συνέδριο Black Hat στο Λας Βέγκας, ο Kettle κατέληξε στο συμπέρασμα ότι η AI είναι επί του παρόντος εξαιρετικά περιορισμένη στην αυτόνομη επινόηση νέων οδών επίθεσης. Παρόλα αυτά, όταν συνδυάζεται με την ανθρώπινη καθοδήγηση και διορατικότητα, μετατρέπεται σε έναν πανίσχυρο συνεργάτη για την αποκάλυψη στρατηγικών hacking που ένας άνθρωπος μόνος του θα αδυνατούσε να εντοπίσει.
Η έρευνα, η οποία ξεκίνησε τον Σεπτέμβριο του 2025 χρησιμοποιώντας τα πιο πρόσφατα μοντέλα της Anthropic και της OpenAI, οδήγησε στην ανακάλυψη μιας νέας κατηγορίας ευπάθειας που ονομάστηκε «Shared-Parser Confusion». Αυτή προκύπτει όταν οι διακομιστές ιστού χρησιμοποιούν κοινό κώδικα για την επεξεργασία τόσο των μη έμπιστων αιτημάτων (requests) όσο και των έμπιστων απαντήσεων (responses).
Μια νέα μεθοδολογία έρευνας
Ο Kettle διαπίστωσε ότι η εκπαίδευση των μοντέλων στη δική του ερευνητική μεθοδολογία απέτρεψε το σύστημα από το να παρουσιάζει παλαιότερες έρευνες ως πρωτότυπες. Η διαδικασία δημιούργησε έναν «παραγωγικό βρόχο ανατροφοδότησης», με την AI να παράγει ερευνητικά στοιχεία κάθε δύο ημέρες, ρυθμός που ξεπερνούσε κατά πολύ τις ανθρώπινες δυνατότητες.
«Δεν θα μπορούσε να το κάνει μόνη της, αλλά σίγουρα ούτε εγώ θα το είχα βρει μόνος μου», δήλωσε ο Kettle σχετικά με την ανακάλυψη του Shared-Parser Confusion.
Παρόλο που η AI δεν μπόρεσε να αποδείξει την ευπάθεια αυτόνομα, η ικανότητά της να διατυπώνει υποθέσεις βάσει δεδομένων, τις οποίες στη συνέχεια αξιολογεί ο άνθρωπος, αποτελεί, σύμφωνα με τον Kettle, την πιο σημαντική εξέλιξη για το μέλλον της επιθετικής και αμυντικής κυβερνοασφάλειας.
