Η Uber αναγκάστηκε να αναθεωρήσει ριζικά τη στρατηγική της για την Τεχνητή Νοημοσύνη, αφού εξάντλησε ολόκληρο τον προϋπολογισμό της για το 2026 μέσα σε μόλις λίγους μήνες. Ο Chief Technology Officer της εταιρείας, Praveen Neppalli Naga, παραδέχτηκε ότι η αρχική προσέγγιση, η οποία ενθάρρυνε τους υπαλλήλους να χρησιμοποιούν εργαλεία όπως το Claude Code της Anthropic όσο το δυνατόν περισσότερο, αποδείχθηκε οικονομικά μη βιώσιμη.
Από την Αλόγιστη Χρήση στην Μηχανική Ακρίβεια
Η πρακτική αυτή, γνωστή ως «tokenmaxxing», περιλάμβανε ακόμα και τη δημιουργία πινάκων κατάταξης (leaderboards) για τους μηχανικούς λογισμικού με βάση τη χρήση της ΤΝ. Ωστόσο, η έλλειψη άμεσης απόδοσης της επένδυσης (ROI) οδήγησε την Uber να επιστρέψει στο «σχεδιαστήριο». Σύμφωνα με τον Naga, η εταιρεία κατάφερε πλέον να μειώσει το κόστος ανά token, όχι περιορίζοντας την πρόσβαση, αλλά αντιμετωπίζοντας την αποδοτικότητα ως πρόβλημα μηχανικής.
Οι στρατηγικές που εφαρμόστηκαν περιλαμβάνουν:
- Βελτίωση του prompt caching.
- Προσαρμογή των προεπιλεγμένων ρυθμίσεων των μοντέλων.
- Αξιολόγηση νέων μοντέλων με βάση την αποδοτικότητα.
- Παροχή διαφάνειας στους μηχανικούς σχετικά με το ωριαίο κόστος χρήσης τους.
Το Παράδοξο του Jevons και η Πραγματικότητα της Αγοράς
Παρά τη μείωση του κόστους ανά μονάδα, η Uber και άλλες εταιρείες αντιμετωπίζουν το «παράδοξο του Jevons»: καθώς ένας πόρος γίνεται πιο αποδοτικός και φθηνός, η συνολική κατανάλωσή του τείνει να αυξάνεται. Σύμφωνα με τον δείκτη Silicon Data Token Expenditure Index, η τιμή ενός token έχει μειωθεί πάνω από 90% από το 2023, αλλά οι δαπάνες για μεγάλα γλωσσικά μοντέλα (LLMs) έχουν διπλασιαστεί.
Ο Andrew Macdonald, Πρόεδρος και COO της Uber, σημείωσε ότι παραμένει δύσκολο να συνδεθεί άμεσα η χρήση της ΤΝ με τη δημιουργία χρήσιμων χαρακτηριστικών για τους καταναλωτές, υπογραμμίζοντας το χάσμα μεταξύ τεχνολογικής υιοθέτησης και παραγωγικότητας.