Ενώ η έρευνα για τον έλεγχο της Τεχνητής Νοημοσύνης επικεντρώνεται στην ασφαλή χρήση μοντέλων που μπορεί να μην είναι ευθυγραμμισμένα, μια νέα μελέτη αναδεικνύει ένα πρακτικό εμπόδιο: τα περισσότερα πρωτόκολλα ελέγχου προϋποθέτουν τη δυνατότητα παρέμβασης στο μοντέλο και τη ροή εργασιών του. Αυτή η προϋπόθεση συχνά δεν ικανοποιείται από ρυθμιζόμενους οργανισμούς που χρησιμοποιούν προηγμένα μοντέλα μέσω API, οδηγώντας σε μια κατάσταση «περιορισμένης κυριαρχίας».
Η Τυπολογία της Πρόσβασης
Η μελέτη προτείνει μια τυπολογία πρόσβασης τεσσάρων επιπέδων (δεδομένα, μοντέλο, υποδομή και αλληλεπίδραση) και εισάγει την έννοια του κόστους έκπτωσης κυριαρχίας (sovereignty discount cost). Ο όρος αυτός περιγράφει το μέρος του «φόρου ελέγχου» που δαπανάται για την υποκατάσταση της περιορισμένης πρόσβασης μέσω:
- Συμβατικών συμφωνιών και εγγυήσεων προμηθευτών.
- Ειδικών αρχιτεκτονικών και ελέγχων από τρίτους (audits).
- Αποδοχής υπολειπόμενου κινδύνου ή περιορισμού του πεδίου εφαρμογής του συστήματος.
Πειραματικά Δεδομένα και Συμπεράσματα
Ένα πείραμα προσομοίωσης με 1,35 εκατομμύρια συνθετικές περιπτώσεις, το οποίο ερμηνεύτηκε μέσω ενός σεναρίου εθνικής υποδομής πληρωμών, έδειξε πώς τα διαφορετικά επίπεδα πρόσβασης επηρεάζουν την ασφάλεια:
- Τα πλήρη αρχεία καταγραφής (logs) είναι απαραίτητα για την αποτελεσματική διάγνωση.
- Οι πύλες (gateways) προ-εκτέλεσης απαιτούνται για την άμεση παρέμβαση.
- Η πρόσβαση στα εσωτερικά ίχνη και ο έλεγχος εκδόσεων είναι κρίσιμα για την εξήγηση περιστατικών μετά την εκδήλωσή τους.
- Ο περιορισμός του πεδίου εφαρμογής μπορεί να βελτιώσει την ασφάλεια, μειώνοντας όμως τη χρηστικότητα.
Οι ερευνητές καταλήγουν ότι τα πρωτόκολλα ασφαλείας που προτείνονται ως γενικές λύσεις πρέπει πλέον να δηλώνουν ρητά τις απαιτήσεις πρόσβασης που προϋποθέτουν για να είναι αποτελεσματικά στην πράξη.
