Κανείς δεν επιθυμεί έναν υπέρογκο λογαριασμό-έκπληξη. Ωστόσο, αυτό ακριβώς αντιμετωπίζουν πολλές εταιρείες φέτος, καθώς αναπτύσσουν δημοφιλείς πράκτορες κώδικα (coding agents), όπως το Claude Code και το Codex, για αυτόνομες εργασίες μεγάλης διάρκειας. Σε αντίθεση με μια απλή συνομιλία σε chatbot, αυτοί οι πράκτορες μπορούν να λειτουργούν για ώρες, πραγματοποιώντας επανειλημμένες κλήσεις σε κορυφαία μοντέλα και συσσωρεύοντας εκατομμύρια tokens.
Το σοκ του κόστους και η ανάγκη για έλεγχο
Μια νέα μελέτη αποκαλύπτει το μέγεθος του προβλήματος: το 62% των οργανισμών δήλωσε ότι ένα απροσδόκητο έξοδο για AI επηρέασε σημαντικά μια επιχειρηματική απόφαση τον τελευταίο χρόνο. Από αυτούς, το 40% ανέφερε ότι το ζήτημα έφτασε σε επίπεδο διοικητικού συμβουλίου, ενώ το 33% επέβαλε έκτακτο πάγωμα δαπανών.
Αυτός είναι ο λόγος για τον οποίο οι «δρομολογητές» μοντέλων AI (model routers) έχουν γίνει ένας από τους πιο θερμούς τομείς της εταιρικής τεχνολογίας. Πρόκειται για λογισμικό που επιτρέπει στους οργανισμούς να επιλέγουν το κατάλληλο μοντέλο για την κατάλληλη εργασία στο σωστό κόστος. Αντί να στέλνουν κάθε αίτημα στο πιο ακριβό μοντέλο, οι εταιρείες μπορούν να επιλέγουν αυτόματα το μοντέλο που προσφέρει τον καλύτερο συνδυασμό κόστους, ταχύτητας και απόδοσης. Αυτή η προσέγγιση μπορεί να μειώσει τα κόστη έως και 30%.
Η άνοδος των πρακτόρων και ο κορεσμός νοημοσύνης
Ο Chris Clark, συνιδρυτής της OpenRouter, δήλωσε στο Fortune ότι η ζήτηση οδηγείται από εργαλεία όπως το Claude Code, που κυκλοφόρησε στα μέσα του 2025. Ενώ το 2024 οι διοικήσεις πίεζαν για υιοθέτηση της AI, φέτος οι δυνατότητες προχώρησαν πέρα από το chat σε «agentic flows» που εκτελούν πράξεις σε διαφορετικά συστήματα. Αυτοί οι πράκτορες είναι εξαιρετικά «πεινασμένοι» για tokens.
«Πιστεύουμε ακράδαντα ότι τα AI tokens θα αποτελέσουν ένα τεράστιο κονδύλι στα λειτουργικά έξοδα κάθε επιχείρησης», ανέφερε ο Clark.
Ο Clark εισήγαγε επίσης την έννοια του «κορεσμού νοημοσύνης» (intelligence saturation): πολλές εργασίες μπορούν να διεκπεραιωθούν εξίσου καλά από παλαιότερα, φθηνότερα μοντέλα, καθιστώντας τη χρήση των κορυφαίων μοντέλων σπατάλη πόρων.
Πέρα από το κόστος: Ανθεκτικότητα και Διακυβέρνηση
Η υιοθέτηση δρομολογητών δεν αφορά μόνο τα χρήματα. Ο David Ward της Salesforce υποστηρίζει ότι στο μέλλον οι αποφάσεις δρομολόγησης θα περιλαμβάνουν την εμπιστοσύνη, τη συμμόρφωση και τη διακυβέρνηση. Επιπλέον, ο Florian Douetteau της Dataiku επισημαίνει ότι οι περιορισμοί πρόσβασης σε συγκεκριμένα μοντέλα έχουν αναγκάσει τις εταιρείες να επανεξετάσουν την εξάρτησή τους από έναν μόνο πάροχο. Η χρήση ενός router επιτρέπει την ευελιξία αλλαγής παρόχου ή τη χρήση μοντέλων ανοιχτού κώδικα σε περίπτωση διακοπής υπηρεσιών.
