Le RL n'a pas atteint son plafond : SWE-1.7
SWE-1.7, le nouveau modèle de code de Cognition (l'éditeur de l'agent Devin), arrive avec une thèse qui dépasse le simple lancement : l'apprentissage par renforcement (RL) serait loin d'avoir atteint son plafond.
Point de départ inhabituel, l'entraînement repart d'un modèle ouvert déjà lourdement post-entraîné, Kimi K2.7 de Moonshot AI. Sur cette base, Cognition dit avoir tiré des gains importants par son propre RL, de quoi contredire l'idée d'un « plafond de post-entraînement » et suggérer que la méthode porte bien plus loin qu'on ne le pensait.
L'infrastructure fait le reste. L'entraînement s'est réparti sur quatre datacenters et trois continents : seul l'entraîneur, le trainer, réclame un cluster à haute bande passante, quand les moteurs d'inférence qui produisent les rollouts tournent n'importe où et se synchronisent par deltas de poids compressés déposés en object storage. Cognition documente aussi ses parades contre deux écueils qui font habituellement caler les longues sessions de RL : l'effondrement d'entropie (entropy collapse) et la dérive numérique entre entraînement et inférence.
Autre pièce du dispositif, la self-compaction : à l'approche de la limite de contexte, l'agent résume son état de travail et reprend depuis ce résumé, ce qui étire certains rollouts jusqu'à six heures. L'éditeur observe en retour un modèle qui fouille davantage la base de code avant d'agir, au prix d'un périmètre de fichiers modifiés plus large.
Sur son propre banc FrontierCode Main, Cognition revendique un score de 42,3 % pour un coût moyen d'environ deux dollars par tâche. SWE-1.7 est accessible dès aujourd'hui dans Devin (web, desktop, CLI), servi à 1 000 tokens par seconde via Cerebras.