Prendre la main sur Hy4 flash, de la licence à l’exécution locale
Multimodal et doté d’un contexte d’un million de tokens, Hy4 flash devient open weights, avec des versions compressées et une licence Tencent spécifique.
Les poids de Hy4 flash sont désormais téléchargeables, avec une version FP8 et un modèle de base préentraîné. Cette publication élargit les possibilités de déploiement du modèle multimodal de Tencent, destiné aux tâches de productivité courantes. Le dépôt officiel distingue la version adaptée aux instructions du modèle Base, qui constitue un point de départ pour des adaptations plutôt qu’un assistant conversationnel prêt à l’emploi. Une fraction du modèle activée à chaque token
La fiche technique actuelle décrit environ 220 milliards de paramètres au total, dont environ 12 milliards activés par token. L’architecture MoE sélectionne une partie des experts pour chaque étape de génération. Elle combine une attention hybride, des experts travaillant dans un espace de représentation réduit et un composant Engram qui retrouve des représentations apprises de petits groupes de tokens. La multimodalité couvre les entrées textuelles et visuelles, avec des réponses en texte et une fenêtre de contexte annoncée jusqu’à un million de tokens.
L’équipe recommande le modèle pour la recherche d’informations, le traitement de documents, la création de présentations, les démonstrations simples d’interfaces et l’utilisation d’un ordinateur. Les modes avec raisonnement et réponse directe sont disponibles dans les versions adaptées aux instructions. Pour servir le modèle en production, la documentation privilégie vLLM et SGLang ; des conversions GGUF sont également proposées dans le cadre du projet AngelSlim. Des fichiers encore lourds pour l’exécution locale
Le dépôt AngelSlim rassemble cinq versions GGUF, avec différents compromis de quantification. Les fichiers vont de 125,73 Gio pour IQ2-AH à 156,79 Gio pour Q4KM. Entre les deux figurent Q3K et deux variantes SPARK-4Bit. Ces noms ne décrivent pas une précision uniforme pour tous les poids : les conversions conservent certains composants à une précision plus élevée et traitent différemment les experts. Le volume final reste donc conséquent malgré la compression.
Les essais publiés ont été réalisés dans des scénarios WorkBuddy, avec des contextes de 4 000, 16 000 et 32 000 tokens. Sur un Mac M5 Max équipé de 128 Go, les variantes Q4KM et Q3K affichent environ 44 à 50 tokens générés par seconde selon la longueur du contexte. Sur la configuration désignée RTX Spark 128 Go, SPARK-4Bit-Fast atteint environ 32 à 33 tokens par seconde. Pour le code, les pointes annoncées sont de 70 tokens par seconde en Q3K sur le Mac et de 40 en SPARK-4Bit-Fast sur la machine Spark. Ces mesures concernent les versions compressées et les configurations décrites ; elles ne démontrent pas une exécution locale avec le contexte maximal d’un million de tokens.
L’installation reste liée à des travaux d’intégration. La proposition de prise en charge dans llama.cpp est encore ouverte et en brouillon : le guide demande d’utiliser sa branche spécifique, avec un correctif supplémentaire pour la configuration Mac présentée. L’analyse d’images nécessite aussi un fichier de projection distinct. Les poids sont disponibles, tandis que cette voie d’exécution demande encore de suivre les instructions propres au dépôt. Une licence spécifique pour les grands services de modèles
La diffusion relève de la Tencent Hy License, version 1.0, dérivée d’Apache 2.0 avec des conditions commerciales supplémentaires. Elle autorise l’utilisation, la modification et la redistribution sous ses conditions, mais prévoit une licence écrite séparée pour certains opérateurs de services de modèles à distance, ou MaaS.
Cette obligation s’applique lorsqu’un opérateur MaaS dépasse 50 millions de dollars de chiffre d’affaires mondial sur douze mois consécutifs, ou utilise le modèle dans un produit ou service dépassant 100 millions d’utilisateurs actifs mensuels. Le seuil de chiffre d’affaires porte sur l’activité globale de l’opérateur. Le texte exclut de sa définition du MaaS certaines fonctionnalités intégrées à des produits sans accès général au modèle, et prévoit une exception pour un usage strictement interne lorsque ni le modèle, ni ses dérivés, ni leurs sorties ne sont mis à disposition de tiers.