Au G7, Black Forest Labs plaide pour une IA ouverte et responsable

Robin Rombach, patron de Black Forest Labs, a défendu les modèles visuels ouverts FLUX devant les dirigeants du G7 pour garantir la souveraineté technologique.

Au G7, Robin Rombach, cofondateur et patron de Black Forest Labs, le laboratoire derrière Stable Diffusion et les modèles FLUX, a pris la parole devant plusieurs dirigeants, dont Donald Trump, Ursula von der Leyen et Emmanuel Macron, pour défendre l'innovation ouverte en IA. Il a décrit son entreprise comme un petit labo de pointe, quatre-vingt-dix personnes entre l'Allemagne et les États-Unis, spécialisé dans les world models, ces modèles visuels qui simulent le monde physique.

Son argument : le langage n'est qu'une représentation limitée du réel, et les modèles visuels deviendront bientôt, à ses yeux, une infrastructure économique aussi critique que les modèles de langage. Partager la technologie ouvertement, plaide-t-il, permet aux entreprises de bâtir leurs propres systèmes plutôt que d'en louer à une poignée d'acteurs, au nom de la transparence, de la concurrence et de l'indépendance stratégique.

Rombach reconnaît toutefois les risques propres à l'ouverture sur l'image, la vidéo et l'audio, où un modèle peut être détourné vers des contenus illégaux et reste difficile à retirer une fois rendu public. Ouvert et responsable ne s'excluent pas, défend-il : Black Forest Labs revendique, sur ses derniers modèles ouverts, dix fois moins de vulnérabilités au détournement vers des deepfakes sexuels ou des contenus pédocriminels que d'autres grands acteurs. Il appelle aussi les États à fournir outils de sécurité, standards et régulation ciblée, et avertit qu'un climat de peur autour de l'ouverture laisserait le monde dépendant de quelques entreprises.