IA, pouvoir et confiance : Dario Amodei défend sa ligne de crête

Dario Amodei défend une régulation ciblée des modèles de frontière et reconnaît que l’industrie de l’IA doit encore prouver ses promesses dans la santé.

Accusé par l’investisseur Gavin Baker de défendre une voie qui concentrerait l’IA entre quelques entreprises et responsables politiques, tout en alimentant la défiance par un discours jugé trop sombre, Dario Amodei a répondu sur les deux terrains : la régulation et la confiance du public.

Le dirigeant d’Anthropic rejette d’abord le choix binaire entre réglementer, au risque de renforcer les acteurs dominants, et distribuer largement la technologie. Selon lui, des institutions impartiales peuvent au contraire limiter le pouvoir des grandes entreprises en les soumettant à des règles communes. Une régulation mal conçue peut favoriser les mieux installés, reconnaît-il en substance, mais ce résultat ne serait pas automatique.

Sa défense s’appuie sur plusieurs dispositifs soutenus par Anthropic. La loi californienne SB 53 exempte les entreprises dont le chiffre d’affaires annuel reste inférieur à 500 millions de dollars. Les processus d’évaluation défendus auprès des autorités américaines imposeraient aussi des tests plus stricts aux modèles de frontière qu’aux systèmes moins avancés. Le principe avancé consiste à encadrer les laboratoires en tête sans ralentir dans les mêmes proportions leurs concurrents, y compris ceux qui distribuent leurs modèles en open weights.

Pour Amodei, la concentration du pouvoir précède cependant la régulation. Elle découlerait de la quantité de calcul, des puces et des infrastructures nécessaires pour développer les modèles les plus puissants. Les open weights élargissent l’accès, mais déplacent une partie du pouvoir vers les organisations capables de financer et d’exploiter ces ressources. Ils ne constitueraient donc pas, à eux seuls, une réponse suffisante.

Il défend un cadre capable de traiter les risques cyber, biologiques et d’alignement, de contraindre les laboratoires de frontière et de préserver une place pour les modèles open weights. Il se dit favorable aux évaluations avant déploiement pour les systèmes les plus avancés, ouverts ou fermés, et soutient la proposition de Demis Hassabis : un organisme inspiré de la FINRA américaine, chargé de tester les modèles avant leur mise sur le marché.

Le second volet de sa réponse concerne la perception publique de l’IA. Dario Amodei conteste l’idée que ses avertissements seraient responsables du climat négatif. Il y voit plutôt une crise de confiance ancienne envers les entreprises, les gouvernements et le secteur technologique. Une campagne de communication positive ne suffirait pas à la réparer, d’autant que la promesse d’une IA capable de guérir le cancer est devenue, selon lui, un cliché souvent perçu comme trompeur.

Sa réponse tient dans une formule : « Ce qui fonctionnera, c’est de réellement guérir le cancer. » Le patron d’Anthropic estime que la critique la plus juste adressée aux entreprises du secteur porte sur leur incapacité actuelle à concrétiser leurs grandes promesses. Il maintient pourtant sa projection selon laquelle l’IA pourrait contribuer à traiter la plupart des maladies humaines dans un délai de cinq à dix ans, une estimation très ambitieuse qui reste à démontrer. Son urgence sur le sujet est aussi personnelle : son père est mort d’une hépatite C quelques années avant l’arrivée d’un traitement qui aurait probablement pu le guérir.

Anthropic affirme accélérer ses travaux en biologie et en médecine, avec de premiers signaux espérés dans les prochains mois et des résultats plus importants à plus long terme. Amodei préfère attendre des avancées mesurables avant de les médiatiser, tout en continuant à évoquer les risques associés aux systèmes les plus capables.

Fidji Simo, ex-CEO of Applications chez OpenAI, partage son constat sur les promesses médicales, mais ajoute une limite matérielle. Des modèles plus performants ne conduiront pas mécaniquement à des traitements si les données biologiques, les infrastructures scientifiques et les outils d’expérimentation ne progressent pas au même rythme. Le cancer pourrait selon elle bénéficier plus rapidement de l’IA grâce aux données accumulées en génomique, pathologie, imagerie et suivi clinique. Pour de nombreuses maladies chroniques, cette base reste encore trop fragmentaire.