Η Liquid AI ανακοίνωσε την κυκλοφορία των ανοιχτών μοντέλων d1, μιας νέας κατηγορίας πολυτροπικών μοντέλων λήψης αποφάσεων που έχουν σχεδιαστεί ειδικά για τοπική εκτέλεση (edge computing). Σύμφωνα με τα αποτελέσματα του Decision Index 0.2.1, το μοντέλο d1-3B αναδεικνύεται ως η κορυφαία λύση στην κατηγορία κάτω των 10 δισεκατομμυρίων παραμέτρων, ξεπερνώντας μεγαλύτερα μοντέλα όπως το Decider 35B-A3B.
Από τη δημιουργία στην απόφαση
Σε αντίθεση με τα παραδοσιακά παραγωγικά μοντέλα (generative models) που δημιουργούν κείμενο λέξη προς λέξη, τα μοντέλα d1 λειτουργούν με ένα «μονό πέρασμα» (single forward pass). Αυτή η αρχιτεκτονική τους επιτρέπει να παρέχουν δομημένες απαντήσεις σχεδόν ακαριαία, καθιστώντας τα ιδανικά για εφαρμογές που απαιτούν ταχύτητα και ακρίβεια χωρίς την ανάγκη επεξεργασίας στο cloud.
Η σειρά περιλαμβάνει δύο κύριες εκδόσεις:
- d1-3B: Βασισμένο στο LFM2.5-VL-3B, υποστηρίζει εισαγωγή κειμένου και εικόνας.
- d1-omni-600M: Μια ερευνητική έκδοση που χρησιμοποιεί αμφίδρομο κωδικοποιητή (bidirectional encoder) και μπορεί να επεξεργαστεί κείμενο, εικόνα και ήχο.
Επιδόσεις και υλικό
Σε συνεργασία με την NVIDIA, η Liquid AI αξιολόγησε το d1-3B σε διάφορες πλατφόρμες υλικού. Τα αποτελέσματα δείχνουν εξαιρετική ταχύτητα: το μοντέλο απαντά σε μόλις 16 ms στο NVIDIA Jetson AGX Thor και σε 50 ms στο οικονομικότερο Jetson Orin Nano. Σε κάρτες γραφικών όπως η RTX 4090, ο χρόνος απόκρισης πέφτει κάτω από τα 10 ms.
Τα μοντέλα δοκιμάστηκαν σε επτά δημόσια σύνολα δεδομένων, καλύπτοντας τομείς όπως η κατανόηση κειμένου, η ανίχνευση τοξικότητας και οι ιατρικές ερωταπαντήσεις, όπου το d1-3B σημείωσε μέση βαθμολογία 82,9, την υψηλότερη στην κατηγορία του.
