Le très petit modèle qui veut tourner partout

Le modèle LFM2.5-230M de Liquid AI offre une inférence locale rapide sur Raspberry Pi 5 et Galaxy S25 Ultra pour les agents IA et l'extraction de données.

Avec LFM2.5-230M, Liquid AI pousse sa famille LFM2.5 vers un format minuscule, pensé pour l’inférence rapide, le fine-tuning et les usages agentiques locaux. Le modèle compte 230M de paramètres, a été pré-entraîné sur 19T tokens avec une extension de contexte à 32K, puis post-entraîné via distillation depuis LFM2.5-350M, optimisation de préférence et reinforcement learning multi-domaines.

Liquid AI met surtout en avant sa capacité à tourner sur du matériel très accessible : 213 tokens par seconde en décodage sur un Galaxy S25 Ultra, 42 tokens par seconde sur un Raspberry Pi 5, et une compatibilité dès le départ avec llama.cpp, MLX, vLLM, SGLang et ONNX. Le modèle est proposé en version base et post-entraînée sur Hugging Face, en open-weight. Côté usages, Liquid AI le positionne sur l’extraction de données, le tool use et les agents légers embarqués.

L’entreprise montre aussi un test sur un robot humanoïde Unitree G1, où le modèle sert de couche de sélection de compétences à partir d’instructions en langage naturel. À cette taille, Liquid AI déconseille en revanche les tâches lourdes de raisonnement, de code avancé ou d’écriture créative.