PrismML publie Bonsai Image 4B, de la génération d'images en local sur iPhone et Mac

PrismML lance Bonsai Image 4B, un modèle open source de génération d'images compressé à 1,21 Go pour fonctionner en local sur iPhone 17 Pro Max et Mac M4.

PrismML publie Bonsai Image 4B, une famille de modèles de génération d'images pensés pour fonctionner directement sur des appareils personnels, ordinateurs portables comme téléphones. La société, issue de chercheurs de Caltech, s'est spécialisée dans la compression de modèles, après avoir déjà décliné cette approche sur des modèles de langage.

Bonsai Image reprend l'architecture de FLUX.2 Klein 4B, signé Black Forest Labs, mais en allège la partie la plus lourde, le transformer de diffusion sollicité à chaque étape de génération. Deux variantes coexistent. La version 1-bit, orientée compression maximale, ramène ce transformer à 0,93 Go, soit 8,3 fois moins que la version pleine précision de 7,75 Go. La version ternaire, qui ajoute un état neutre aux poids, pèse 1,21 Go pour un meilleur rendu et une meilleure fidélité aux prompts. En intégrant l'encodeur de texte et le décodeur, le tout occupe environ 3,4 à 3,9 Go, contre près de 16 Go pour le modèle d'origine.

Cette cure d'amaigrissement ouvre des terrains jusque-là inaccessibles : selon PrismML, Bonsai Image serait le premier modèle de sa catégorie à tourner directement sur iPhone. Une image en 512×512 demande environ 6 secondes sur un Mac M4 Pro et 9,4 secondes sur un iPhone 17 Pro Max. Sur les bancs d'essai GenEval, HPSv3 et DPG-Bench, la variante ternaire conserve 95 % de la qualité du modèle complet, la version 1-bit 88 %.

Les poids et le code sont diffusés en open source sous licence Apache 2.0, accompagnés d'une application iOS, Bonsai Studio, pour tester la génération sur iPhone.