Jack Dorsey répond à Dario Amodei : ouvrir la frontière plutôt que la ralentir

Jack Dorsey conteste le plan de ralentissement de Dario Amodei et défend des modèles ouverts, des audits indépendants et des restrictions réservées aux risques catastrophiques.

Faut-il ralentir le développement des modèles pour laisser aux mesures de sécurité le temps de suivre, ou ouvrir davantage leur fonctionnement afin de multiplier les personnes capables de les examiner ? Jack Dorsey choisit la seconde option dans un long texte publié sur X sous le titre « open the frontier ».

Le cofondateur de Twitter ne répond pas seulement à une inquiétude générale concernant l’intelligence artificielle. Son texte cite explicitement l’essai publié par Dario Amodei, directeur général d’Anthropic, et conteste plusieurs mesures proposées pour limiter la vitesse de progression des systèmes les plus avancés.

Le rapprochement n’est donc pas simplement chronologique. Dorsey accepte une partie du diagnostic d’Amodei, notamment le besoin d’évaluations indépendantes, la possibilité d’une amélioration accélérée des modèles par d’autres modèles et la montée des risques liés aux agents. Il refuse cependant de confier aux laboratoires actuellement en tête, même accompagnés par les États, le pouvoir de définir le rythme auquel leurs concurrents peuvent progresser.

Amodei ne demande pas l’arrêt général de la recherche. Son projet de « pacing » cherche à maintenir une certaine avance technologique tout en empêchant les capacités de croître plus vite que les moyens de les comprendre et de les contrôler. Son plan comporte trois niveaux : des évaluateurs extérieurs installés durablement au sein des laboratoires, une coordination entre entreprises et gouvernements démocratiques, puis, si elle devient possible, une coordination internationale incluant la Chine.

Ces évaluateurs recevraient un accès comparable à celui d’équipes internes chargées des risques. Ils pourraient examiner les modèles terminés, les chaînes d’entraînement, les environnements de test et le respect des engagements annoncés. Anthropic affirme vouloir leur permettre de publier leurs conclusions, y compris lorsqu’elles sont défavorables, sous réserve de certaines informations confidentielles ou sensibles pour la sécurité.

Le plan envisage également des points de contrôle fondés sur les capacités. Un modèle capable de contourner les principales méthodes d’isolation devrait, par exemple, satisfaire des exigences supplémentaires avant de continuer à progresser. Amodei propose aussi d’étudier des limites portant sur la puissance de calcul utilisée pour l’entraînement, la nature des nouvelles sessions d’entraînement et l’emploi de modèles pour en concevoir de plus performants.

C’est à cet endroit que Dorsey s’écarte nettement de lui. Il soutient les examens indépendants, mais refuse des limites sectorielles négociées par les entreprises qui dominent déjà le marché. Une réglementation adaptée aux ressources, aux infrastructures et aux méthodes des plus grands laboratoires pourrait selon lui transformer une précaution légitime en barrière à l’entrée.

Son objection ne repose pas sur l’idée que les modèles ouverts seraient sans danger. Dorsey reconnaît qu’ils peuvent faciliter certains usages nuisibles et que leurs protections peuvent être modifiées. Il estime toutefois qu’un petit groupe de fournisseurs conservant les modèles les plus avancés derrière des API créerait un autre risque : celui de réserver les instruments de recherche, d’audit et de défense aux entreprises déjà les mieux dotées.

Il ne demande pas que tous les laboratoires soient obligés de publier leurs modèles. Il veut que des solutions ouvertes puissent continuer à concurrencer les services fermés, que des chercheurs puissent les examiner sans autorisation préalable et que les utilisateurs puissent conserver leurs outils lorsque les conditions commerciales ou les politiques d’un fournisseur changent.

Cette position impose de distinguer les modèles à poids ouverts de l’IA véritablement open source. La publication des poids permet de télécharger et d’exécuter un modèle, mais ne suffit pas nécessairement à reproduire son développement. La définition de l’Open Source Initiative demande également le code nécessaire à l’entraînement et à l’exécution, ainsi que des informations suffisamment détaillées sur les données. Les utilisateurs doivent pouvoir étudier, modifier, employer et partager le système sans demander une permission supplémentaire.

Dorsey reprend cette définition exigeante. Il souhaite voir publier les poids, le code, les informations de reproduction, les évaluations et les limites connues. Son objectif est de permettre à des chercheurs qui ne partagent pas le jugement du développeur de reproduire les résultats, de rechercher des comportements non détectés et de proposer leurs propres corrections.

La principale justification donnée par Amodei au ralentissement concerne l’amélioration récursive. Des modèles participent déjà au développement des générations suivantes en écrivant du code, en conduisant des expériences et en analysant leurs résultats. Si cette boucle se refermait entièrement, les progrès pourraient devenir plus rapides que la capacité des humains à les surveiller.

Anthropic indique que Claude avait produit plus de 80 % des lignes de code intégrées à ses systèmes de production en mai 2026. L’entreprise affirme également que ses ingénieurs fusionnaient alors environ huit fois plus de code par jour qu’en 2024.

Ces chiffres proviennent cependant des mesures internes d’Anthropic. L’entreprise précise elle-même que le nombre de lignes surestime probablement le gain de productivité réel et mesure imparfaitement la qualité du travail. Les humains continuent aussi de choisir les objectifs, d’examiner les résultats et de décider quelles modifications intégrer.

Anthropic reconnaît surtout qu’aucun modèle ne développe encore son successeur de manière entièrement autonome et que cette évolution n’est pas inévitable. Dorsey ne rejette donc pas le scénario, mais refuse de traiter sa possibilité comme une justification suffisante pour plafonner dès maintenant le développement de l’ensemble du secteur.

Le second événement au centre du débat est l’intrusion subie par Hugging