Les ambitions agentiques de Thinking Machines prennent un format plus compact

Un modèle open weights de 26,4 milliards de paramètres associe exécution locale, usage d’outils et étude de la surveillance du raisonnement.

Sur un Mac Apple silicon doté d’au moins 32 Go de mémoire, le nouveau modèle de Thinking Machines peut être exécuté localement. Publié sous le nom Inkling 2 Mini, il occupe environ 20 Go pour ses poids et accepte du texte comme des images, avec des réponses textuelles. Sa particularité tient à son architecture : une partie des couches est parcourue plusieurs fois avant la production de chaque token.

Les poids sont téléchargeables sur Hugging Face sous licence Apache 2.0. La prise en charge par Ollama passe encore par sa version preview sur Mac. Le fabricant annonce aussi l’exécution sur DGX Spark, tandis que Tinker propose l’inférence, le fine-tuning et un accès conversationnel dans son Playground. Vingt-quatre couches, quarante-huit applications

L’architecture comporte 24 couches : les six premières et les six dernières sont exécutées une fois, les douze centrales trois fois. Comme les passages réutilisent les mêmes poids, le modèle effectue 48 applications de couches par token sans stocker 48 couches différentes. Le calcul interne augmente, sans augmentation correspondante du nombre de paramètres conservés en mémoire.

Le modèle à mélange d’experts compte 26,4 milliards de paramètres au total, dont 3,4 milliards actifs. En tenant compte des passages répétés, le fournisseur chiffre à 5,4 milliards les activations de poids par token. Ces deux valeurs décrivent des choses différentes : les paramètres mobilisés et le travail supplémentaire lié aux boucles.

La taille a aussi été réduite en retirant deux tiers des experts pendant l’entraînement, puis en réentraînant les experts restants pour compenser cette suppression. La faible précision numérique contribue à l’empreinte mémoire : les poids sont principalement entraînés et déployés en NVFP4, avec du MXFP8 pour les quatre dernières couches. La fiche du modèle annonce un contexte maximal d’un million de tokens. Le classement change selon les tâches de code

Dans les évaluations publiées par le fournisseur, le modèle résout 48,2 % des tâches de DeepSWE v1.1, contre 42,2 % pour Qwen3.8-27B. Sur Terminal-Bench v2.1, l’ordre s’inverse : 71,6 % contre 73 %. Le tableau rapporte également 20,1 sur l’Artificial Analysis Intelligence Index, à égalité avec ce concurrent. Les résultats dépendent des configurations et des outils employés ; les graphiques de vitesse du lancement présentent un plafond théorique, sans mesurer le débit sur chaque ordinateur compatible.

La comparaison d’Artificial Analysis nuance aussi la promesse de raisonner avec moins de texte. À score égal, le modèle produit environ 38 % de tokens supplémentaires par rapport à Qwen3.8-27B. L’organisme estime néanmoins un besoin de calcul environ 2,8 fois inférieur avec son indicateur fondé sur les paramètres actifs multipliés par les tokens. Une chaîne de pensée raccourcie par les boucles ne signifie donc pas une réponse systématiquement plus concise que celle d’un autre modèle. Un raisonnement plus court reste-t-il surveillable ?

Les passages internes soulèvent une question : si davantage de travail se déroule avant l’émission du texte, la chaîne de pensée écrite reste-t-elle utile pour comprendre le comportement du modèle ? Une variante de recherche à nombre de boucles variable est publiée pour explorer ce point, tandis que le modèle destiné aux utilisateurs conserve trois passages fixes.

Sur un sous-ensemble de questions de GPQA Diamond réussies à tous les nombres de passages testés, les chercheurs observent une baisse de 3 703 à 1 661 tokens de raisonnement en moyenne entre un et cinq passages. La longueur des phrases et la proportion de mots présents dans un dictionnaire anglais restent proches. L’analyse décrit un raisonnement plus direct, avec moins de retours en arrière.

Des essais dans LinuxArena ne montrent pas de tendance claire à une meilleure dissimulation des actions malveillantes lorsque les boucles augmentent. Pour ces tests, l’étude utilise aussi une version de Mini réentraînée pour accepter des tâches que le modèle publié refuse souvent. Le laboratoire présente ses observations comme préliminaires : la variante à boucles variables a été entraînée avec un à cinq passages pendant une partie de son apprentissage, mais son entraînement par renforcement n’en utilisait que trois. Les expériences ne déterminent donc pas ce qu’apprendrait un modèle optimisé pour davantage de passages. En complément, une étude de Goodfire, menée avec un accès anticipé aux poids, examine directement la circulation de l’information entre les couches et les boucles.