Η εμπιστευτική υπολογιστική (confidential computing) εξελίσσεται σε απαραίτητη προϋπόθεση για την ανάπτυξη φορτίων τεχνητής νοημοσύνης που διαχειρίζονται ευαίσθητα δεδομένα ή προστατεύουν ιδιόκτητα μοντέλα. Ωστόσο, η ενεργοποίηση αυτών των πρωτοκόλλων ασφαλείας συνοδεύεται από ένα μετρήσιμο κόστος στην απόδοση των GPU, το οποίο εξαρτάται άμεσα από το μέγεθος του μοντέλου και τον φόρτο εργασίας.
Μεθοδολογία και Περιβάλλον Δοκιμών
Η πρόσφατη έρευνα συνέκρινε την τυπική (μη εμπιστευτική) εκτέλεση με τη λειτουργία εμπιστευτικής υπολογιστικής σε μια κάρτα NVIDIA H100 80GB, φιλοξενούμενη σε ένα περιβάλλον Intel TDX. Για την αξιολόγηση χρησιμοποιήθηκαν δύο αντιπροσωπευτικά γλωσσικά μοντέλα: το Mistral-7B v0.1 και το Qwen3-30B-A3B. Οι ερευνητές εστίασαν σε κρίσιμες μετρικές, όπως ο χρόνος μέχρι το πρώτο token (TTFT), η συνολική καθυστέρηση (latency) και η ρυθμοαπόδοση (throughput) των tokens.
Τα Ευρήματα της Απόδοσης
Τα αποτελέσματα δείχνουν μια σαφή επιβάρυνση κατά τη λειτουργία σε εμπιστευτικό περιβάλλον:
- Ο μέσος χρόνος TTFT αυξήθηκε κατά 21,8% για το Mistral-7B και κατά 27,8% για το Qwen3-30B-A3B.
- Η συνολική ρυθμοαπόδοση tokens (global throughput) σημείωσε πτώση 17,7% και 21,1% αντίστοιχα για τα δύο μοντέλα.
- Σε συνθήκες αυξημένης ταυτόχρονης χρήσης (concurrency), το χάσμα απόδοσης κυμάνθηκε μεταξύ 11,5% και 20,2%.
Ένα ιδιαίτερα σημαντικό εύρημα είναι ότι τα μεγαλύτερα μοντέλα, όπως το Qwen3, φτάνουν στο σημείο κορεσμού της απόδοσής τους νωρίτερα όταν λειτουργούν σε εμπιστευτική κατάσταση. Αυτό υποδηλώνει ότι, ενώ η εμπιστευτική επεξεργασία παραμένει βιώσιμη, ο σχεδιασμός υποδομών πρέπει να λαμβάνει υπόψη τόσο την άμεση ποινή στην απόδοση όσο και την πρόωρη εξάντληση των πόρων υπό πίεση.
