PrismML étend sa famille Bonsai 2
PrismML publie trois modèles Bonsai 2 de 2, 4 et 9 milliards de paramètres, conçus pour exécuter des agents IA sur smartphones et ordinateurs.
Un modèle de neuf milliards de paramètres occupant seulement 2 Go, capable d'interpréter des images, de raisonner et d'utiliser des outils directement depuis un iPhone. Avec Bonsai 2, PrismML enrichit sa gamme de modèles compacts avec trois nouvelles versions de 2, 4 et 9 milliards de paramètres. Issues de Qwen3.5, elles utilisent une représentation ternaire des poids pour réduire leurs besoins en mémoire. L'entreprise vise les assistants locaux, capables de réaliser des opérations sur un smartphone, un ordinateur ou un objet connecté sans transmettre systématiquement leurs données à un serveur distant. Trois nouveaux modèles dans moins de 2 Go
La nouvelle gamme comprend Bonsai 2 2B, 4B et 9B, qui rejoignent une version de 27 milliards de paramètres déjà présentée par PrismML.
Ces modèles succèdent à la première génération Bonsai 1.7B, 4B et 8B, avec des améliorations annoncées en raisonnement, compréhension visuelle et utilisation d'outils.
Leur particularité repose sur une représentation des poids utilisant seulement trois valeurs : −1, 0 et +1.
Cette technique, appelée quantification ternaire, réduit fortement la quantité de mémoire nécessaire au stockage des paramètres par rapport aux représentations numériques traditionnelles en pleine précision.
PrismML annonce des tailles de 0,43 Go pour Bonsai 2 2B, 0,95 Go pour le 4B et 2 Go pour le 9B. Ces empreintes sont plus de neuf fois inférieures à celles des modèles Qwen3.5 correspondants en pleine précision.
La réduction mémoire facilite leur chargement sur des appareils disposant de ressources limitées, mais ces chiffres ne représentent pas nécessairement la consommation totale pendant l'exécution. Le contexte, les données intermédiaires et l'environnement logiciel mobilisent également de la mémoire. Des assistants capables d'agir directement sur l'appareil
PrismML a concentré cette génération sur plusieurs comportements destinés aux assistants personnels : respecter les instructions, éviter les réponses répétitives, limiter les boucles inutiles et appeler les outils disponibles dans une application.
L'objectif est de permettre aux modèles de participer à des tâches nécessitant plusieurs opérations, plutôt que de se limiter à répondre à des questions.
Sur un téléphone, un assistant pourrait analyser un document, en extraire certaines informations puis les transmettre à une application locale. Un autre usage consiste à interpréter une image et à utiliser les fonctions disponibles sur l'appareil pour poursuivre une tâche.
PrismML a également travaillé sur la concision des réponses. Selon ses évaluations, Bonsai 2 9B utilise environ 40 % de tokens en moins sur des tâches courantes de suivi d'instructions et de mathématiques.
Cette réduction concerne les scénarios mesurés par l'entreprise et ne garantit pas une consommation identique dans toutes les applications. Jusqu'à 120 tokens par seconde sur iPhone
La taille réduite des modèles permet leur exécution sur des appareils mobiles récents.
PrismML présente notamment une démonstration de Bonsai 2 9B fonctionnant localement sur un iPhone 18 Pro Max, avec des interactions visuelles et des appels d'outils.
Sur cet appareil, le modèle 9B atteint jusqu'à 34 tokens par seconde, tandis que la version 2B monte jusqu'à 120 tokens par seconde.
Les performances annoncées sont également élevées sur les ordinateurs Apple. Sur une configuration désignée M5 Max Pro par PrismML, Bonsai 2 9B atteint jusqu'à 179 tokens par seconde, contre 310 tokens par seconde pour Bonsai 2 2B.
L'entreprise rapporte aussi des mesures sur des configurations équipées de NVIDIA RTX 4090 et de processeurs Apple M5 Pro. Selon ses tests, les modèles ternaires peuvent atteindre jusqu'à cinq fois le débit et trois fois l'efficacité énergétique de leurs équivalents Qwen3.5 en pleine précision.
Ces résultats correspondent à des matériels et à des conditions d'exécution précis. Les performances varient notamment selon la taille du modèle, le contexte et les ressources disponibles.
Pour les applications mobiles, l'efficacité énergétique compte autant que la vitesse. Un modèle qui consomme moins de ressources peut être sollicité plus régulièrement sans imposer les mêmes contraintes sur la batterie. Dix-neuf évaluations face aux modèles Qwen3.5
PrismML a comparé ses trois nouveaux modèles à leurs équivalents Qwen3.5 sur 19 évaluations réparties en six domaines : utilisation d'outils, mathématiques, suivi d'instructions, programmation, connaissances et raisonnement, et compréhension visuelle.
Les résultats montrent que la compression n'affecte pas toutes les capacités de la même manière.
Sur BFCLv3, consacré aux appels d'outils, Bonsai 2 9B obtient 71,81 contre 73,81 pour Qwen3.5 9B. Sur MATH-500, les scores atteignent respectivement 98,60 et 99,00.
Dans d'autres domaines, les différences sont plus marquées. Sur GPQA Diamond, Bonsai 2 9B atteint 69,9 contre 82,53 pour son modèle de référence.
PrismML publie également des taux de conservation des performances par domaine, établis en comparant les scores des modèles ternaires à ceux des versions originales.
En compréhension visuelle, les taux globaux annoncés sont de 89 % pour Bonsai 2 2B, 91,3 % pour le 4B et 92,5 % pour le 9B.
Le suivi des instructions présente des résultats différents : 121,5 % pour le 2B, 106 % pour le 4B et 100 % pour le 9B. Sur les évaluations retenues, certaines versions compressées égalent donc, voire dépassent, leurs références en pleine précision.
La programmation conserve également des résultats proches, avec des taux de 115 %, 100,7 % et 100,1 % selon la taille du modèle.
Les connaissances et le raisonnement sont davantage affectés : 82,9 % pour le 2B, 90,9 % pour le 4B et 93 % pour le 9B.
Ces écarts montrent que la réduction mémoire ne préserve pas uniformément les différentes capacités. Les tâches mobilisant des connaissances spécialisées ou des raisonnements complexes peuvent être plus sensibles à la compression.
Les résultats proviennent des évaluations publiées par PrismML et ne