“En séparant les jetons d’entrée des jetons de sortie, le codage unique de MU réduit considérablement le calcul et les frais généraux de mémoire”, a déclaré Pradeep.
L’approche Encodeur-Décodeur était significativement plus rapide que les LLM telles que PHI-3.5 de Microsoft, qui est un modèle uniquement du décodeur. “Lorsque vous comparez MU à un PHI-3,5-MINI similaire, nous avons constaté que MU était presque comparable en performance malgré un dixième de la taille”, a déclaré Pradeep.
Ces gains sont cruciaux pour les applications sur les appareils et en temps réel. “La gestion de la vaste gamme de paramètres Windows a posé ses propres défis, en particulier avec les fonctionnalités qui se chevauchent”, a déclaré Pradeep.
