Jamais d'interdiction des modèles ouverts, affirme Anthropic

Anthropic récuse toute volonté d'interdire les modèles ouverts. Dario Amodei propose de cibler les puces physiques et la distillation industrielle.

Après plusieurs jours de critiques l'accusant de chercher l'interdiction des modèles open source pour protéger son activité, Anthropic a exposé sa position sur le sujet, sous la plume de son patron Dario Amodei. Sa phrase centrale tient du démenti : l'entreprise n'aurait jamais plaidé pour une telle interdiction, et un modèle dépourvu de capacités dangereuses constitue à ses yeux un bien public.

Le texte répond à la lettre Open Weights and American AI Leadership, qu'Anthropic n'a pas cosignée. Amodei dit partager l'idée que les modèles ouverts élargissent l'accès, la concurrence et le contrôle laissé au client, mais rejette l'argument selon lequel l'ouverture rendrait l'IA plus sûre ou donnerait l'avantage aux défenseurs face aux attaquants. Sa préoccupation, précise-t-il, ne porte pas sur l'ouverture en soi, mais sur les modèles de frontière atteignant un niveau exploitable à des fins militaires, cyber ou biologiques, une fois publiés sans retour possible.

Plutôt qu'une interdiction, jugée inapte à répondre à ses inquiétudes de sécurité nationale, l'entreprise avance trois mesures : un durcissement des contrôles sur les puces avancées et les équipements de fabrication à destination de gouvernements autoritaires, une action contre la distillation à l'échelle industrielle, et des tests de sécurité obligatoires pour tout modèle suffisamment capable, ouvert ou fermé.

Sur la distillation, Anthropic renvoie à une accusation déjà portée devant une commission du Sénat américain : le laboratoire Qwen d'Alibaba aurait mené contre Claude la plus vaste opération connue de ce type, via des dizaines de milliers de faux comptes. Amodei reconnaît qu'une telle pratique est difficile à endiguer, les comptes n'étant souvent repérables qu'une fois la distillation largement avancée, et appelle à une réponse réglementaire plutôt qu'à l'initiative d'une seule entreprise.