Altar-1 compresse GLM-5.3 pour faire tourner la sécurité IA en local

Avec Altar-1, Aikido adapte GLM-5.3 aux environnements de cybersécurité qui ne peuvent pas transmettre leur code ou leurs données à un service externe. Ce modèle open-weight passe de 1,51 To à 328 Go tout en conservant, selon les tests internes de l’entreprise, l’essentiel des capacités mesurées sur la recherche de vulnérabilités.

Garder le modèle avec les données

Dans une banque, un hôpital ou un environnement industriel isolé d’Internet, envoyer du code source, une architecture interne ou des vulnérabilités non corrigées vers une API externe peut être impossible. C’est sur cette contrainte qu’Aikido a construit Altar-1, son premier modèle de sécurité open-weight, destiné à fonctionner directement dans l’infrastructure de l’organisation, y compris dans des environnements entièrement air-gapped.

Le modèle alimente notamment Aikido Machine, le système de pentest autonome de l’entreprise. Le principe n’est donc pas de déplacer les informations sensibles vers un modèle hébergé ailleurs, mais d’installer les capacités d’analyse à l’endroit où se trouvent déjà le code et les données. 1,51 To ramené à 328 Go

Altar-1 part de GLM-5.3. Le modèle complet occupe environ 1 506,7 Go en BF16. Une première quantification AWQ INT4 réduit ce volume à 488,2 Go, avant qu’un travail de pruning ramène les poids stockés à 328 Go. La réduction atteint ainsi 78,2 % par rapport au modèle original en pleine précision et 32,8 % par rapport à sa version déjà quantifiée.

GLM-5.3 utilise une architecture Mixture of Experts. Tous les experts doivent être stockés, même si seule une partie intervient pour chaque token. Altar conserve 168 des 256 experts routés du modèle d’origine et en retire 88. Huit restent sélectionnés pour chaque token, mais à partir d’un ensemble plus réduit.

Pour déterminer lesquels conserver, Aikido s’est appuyé sur REAP, une méthode de pruning développée par Cerebras. La sélection a été calibrée à partir de traces issues de ses propres tests de pentest, couvrant notamment le code et les appels d’outils, auxquelles ont été ajoutés des textes multilingues afin de limiter la dégradation de la compréhension des documentations et interfaces. Aikido précise qu’aucune donnée client n’a servi à cette étape.

Il ne s’agit donc pas encore d’un modèle auquel de nouvelles compétences de cybersécurité auraient été apprises par fine-tuning. La société indique justement que cette étape fait partie des développements suivants, avec un travail prévu sur l’utilisation d’outils et le raisonnement de longue durée. Une perte mesurée sur 32 vulnérabilités connues

La compression a été évaluée avec un benchmark interne portant sur 32 CVE connues réparties dans 30 dépôts, avec trois passages par cas. Altar-1 obtient selon Aikido un recall moyen de 60,4 % et retrouve au moins une fois 23 des 32 vulnérabilités.

La version AWQ INT4 de GLM-5.3 atteint 61,5 % et retrouve également 23 vulnérabilités. Le modèle original en pleine précision monte à 65,6 % et en couvre 25. Altar conserve donc 23 des 25 vulnérabilités détectées par le modèle parent au moins une fois, avec une baisse de 5,2 points du recall moyen.

Ces chiffres restent à lire dans le périmètre du test. Aikido mesure ici la capacité à retrouver des vulnérabilités déjà identifiées au sein de son propre pipeline. Le benchmark ne couvre ni la recherche aveugle sur l’intégralité d’un dépôt, ni l’exécution d’exploits pour valider une faille, ni l’évaluation des correctifs proposés. Il n’existe pas encore de réplication indépendante publiée de ces résultats. Quatre H200 pour l’exécuter

Les poids d’Altar-1 sur Hugging Face occupent 328 Go et sont publiés sous la licence héritée de GLM-5.3. La configuration communiquée par Aikido permet de servir le modèle avec vLLM sur une machine équipée de quatre GPU H200.

L’entreprise indique avoir déjà intégré Altar à sa flotte Aikido Machine. Elle affirme que le modèle y a identifié une vulnérabilité critique valide lors d’un pentest client en production, un résultat qui reste à ce stade documenté uniquement par Aikido.