Un modèle de 0,8 milliard de paramètres traduit 19 langues africaines hors ligne

QVAC publie TranslatePsy-AfriSLM, une famille de petits modèles ouverts conçus pour traduire l’anglais et 19 langues d’Afrique subsaharienne sur un ordinateur ou un appareil mobile.

Traduire du haoussa, du wolof ou du swahili sans transmettre son texte à un service distant. C’est la proposition de TranslatePsy-AfriSLM, une famille de modèles spécialisés suffisamment compacts pour fonctionner localement, y compris dans des régions où la connexion reste coûteuse ou irrégulière.

Développé par Tether AI Research et publié sous la marque QVAC, le projet ne se limite pas à un seul modèle. Il comprend trois versions fondées sur Qwen3.5, dotées respectivement de 0,8, 2 et 4 milliards de paramètres. Les poids, le code d’inférence et les scripts de traitement sont disponibles publiquement.

Les modèles couvrent l’anglais et 19 langues d’Afrique subsaharienne : afrikaans, amharique, haoussa, igbo, kinyarwanda, lingala, luganda, malgache, nyanja, oromo, shona, somali, sotho du Sud, swahili, tswana, wolof, xhosa, yoruba et zoulou.

La traduction fonctionne principalement dans les deux sens entre l’anglais et chacune de ces langues. TranslatePsy-AfriSLM conserve également certaines capacités conversationnelles : il peut identifier une langue, répondre dans une autre et poursuivre plusieurs traductions dans un même échange au lieu de traiter chaque phrase comme une opération isolée.

La famille existe dans son format complet ainsi qu’en versions GGUF Q4 et Q8 destinées à une exécution plus légère avec llama.cpp. La version 0,8B en Q4 représente la configuration la plus adaptée aux appareils disposant de peu de mémoire. Elle peut être utilisée depuis un terminal ou exposée sous la forme d’un serveur local compatible avec le format d’API d’OpenAI.

QVAC affirme que cette variante peut fonctionner sur un ordinateur portable ou un smartphone, sans carte graphique spécialisée ni connexion permanente. Les dépôts fournissent bien des fichiers adaptés à une exécution locale, mais aucune application mobile prête à installer, liste de téléphones compatibles, mesure de consommation énergétique ou comparaison de vitesse selon l’appareil n’accompagne le lancement.

La possibilité technique d’exécuter le modèle sur un téléphone ne garantit donc pas une utilisation fluide sur tous les appareils. Les performances dépendront de la mémoire disponible, du système utilisé, de la version choisie et du moteur chargé de produire les traductions.

TranslatePsy-AfriSLM part d’un constat connu : la taille d’un modèle ne compense pas toujours le manque de données de qualité. Les langues peu représentées sur le web disposent de moins de textes parallèles, c’est-à-dire de phrases existant à la fois dans la langue d’origine et dans leur traduction. Les ressources accessibles peuvent également contenir des doublons, des erreurs, des mélanges de langues ou des phrases incorrectement alignées.

L’équipe a commencé par réunir 427 millions de paires de phrases provenant de WMT22, MALA, OPUS et Fine Translations. Cet ensemble brut couvre les 19 langues retenues, mais il n’est pas publié avec le reste du projet. Les auteurs précisent qu’il a uniquement été utilisé pour leurs expériences.

Une deuxième source repose sur des données synthétiques. Des textes monolingues issus de MADLAD-400 ont été traduits avec NLLB-3.3B afin de créer de nouvelles paires entre l’anglais et les langues africaines. Les phrases ont ensuite été nettoyées, dédupliquées et comparées aux ensembles d’évaluation pour limiter le risque de retrouver des exemples de test pendant l’entraînement.

La particularité du travail se trouve surtout dans la sélection de ces traductions. Plutôt que de conserver l’ensemble des données disponibles, les chercheurs combinent trois systèmes d’évaluation de la qualité : AfriCOMET, SSA-COMET et MetricX-24.

Leurs résultats sont normalisés à partir d’environ 352 000 traductions humaines, puis rassemblés dans une note commune. Les paires jugées les moins fiables sont supprimées et le volume attribué à chaque langue est plafonné afin que les langues disposant du plus de ressources n’occupent pas toute la base.

Le sens de l’évaluation joue également un rôle. Une traduction destinée à entraîner le passage de l’anglais vers le swahili doit être évaluée dans cette même direction. Inverser le sens de la notation entraîne, selon les expériences publiées, une baisse moyenne de 12 % avec MetricX et de 3,1 % avec SSA-COMET.

Sur les données ouvertes étudiées, cette sélection réduit le volume d’entraînement de 44,93 milliards à 1,76 milliard de tokens, soit une diminution de 96 %, tout en conservant un résultat SSA-COMET comparable : 0,530 contre 0,528 pour l’ensemble non filtré.

Cette réduction ne décrit toutefois pas le volume final utilisé pour entraîner TranslatePsy-AfriSLM. La meilleure configuration repose principalement sur des données synthétiques filtrées et contient 32,37 milliards de tokens. Le chiffre de 96 % correspond à une expérience menée sur le corpus ouvert brut, et non à une compression de l’ensemble final dans les mêmes proportions.

Les chercheurs ont également testé une combinaison réunissant données ouvertes et synthétiques. Celle-ci atteint 46,49 milliards de tokens, mais obtient un résultat légèrement inférieur à celui du corpus synthétique de 32,37 milliards. Dans leurs conditions d’évaluation, ajouter davantage de données moins bien sélectionnées finit donc par diluer le signal utile.

Deux ensembles complémentaires sont intégrés à l’entraînement. Le premier contient 4,6 millions d’exemples d’instructions, dont environ la moitié dans des langues africaines. Il doit préserver la capacité à converser, à reconnaître une langue et à suivre une demande formulée autrement qu’avec une commande de traduction rigide.

Le second rassemble 24 millions d’exemples couvrant 38 langues européennes et asiatiques. Sans cet ajout, l’adaptation spécialisée détériore fortement certaines connaissances multilingues héritées de Qwen3.5. Avec lui, la baisse moyenne observée hors des langues africaines passe de 39 à 4,1 % sur l’ensemble des mesures présentées.

Les trois modèles ont été affinés pendant une époque d’entraînement, avec des séquences limitées