Anthropic ouvre ses systèmes internes à six évaluateurs indépendants de METR
Anthropic accueille six évaluateurs de METR avec un accès à ses systèmes internes pour examiner les risques de ses modèles IA et publier leurs conclusions.
Six chercheurs extérieurs disposent désormais d'équipements, de bureaux et d'accès aux outils internes d'Anthropic, dans des conditions proches de celles de ses propres équipes chargées de la sécurité. Membres de l'organisation indépendante METR, ils pourront examiner les modèles, les incidents et les pratiques de gestion des risques de l'entreprise, puis publier leurs conclusions sans autorisation préalable. Avec ce dispositif, Anthropic introduit une forme d'évaluation intégrée, destinée à donner à des spécialistes extérieurs une visibilité plus étendue sur le fonctionnement de ses systèmes d'intelligence artificielle. Six évaluateurs intégrés aux équipes d'Anthropic
METR est une organisation à but non lucratif spécialisée dans l'évaluation des capacités et des risques des modèles d'intelligence artificielle avancés.
L'organisation collabore déjà avec Anthropic depuis plusieurs mois, notamment à travers différentes analyses des rapports de risques publiés par l'entreprise.
Le nouvel accord va plus loin. Six membres de METR disposent désormais de matériel fourni par Anthropic, d'espaces de travail dans ses locaux et d'accès à des systèmes internes comparables à ceux utilisés par les équipes chargées de l'évaluation des risques.
Les salariés d'Anthropic sont encouragés à partager avec eux les informations nécessaires à leurs investigations comme ils le feraient avec des collègues travaillant sur les risques d'alignement.
Les évaluateurs peuvent ainsi examiner des éléments qui ne figurent pas nécessairement dans les rapports publics, notamment les méthodes d'évaluation, les dispositifs de protection ou certains incidents observés pendant les tests.
Le dispositif exclut néanmoins plusieurs catégories d'informations, notamment les données clients, les communications protégées par le secret professionnel et certains détails concernant l'architecture des modèles.
L'accès n'est donc pas intégral, même s'il dépasse celui généralement accordé à des organismes extérieurs. Publier les résultats sans validation préalable
L'un des principaux éléments de l'accord concerne l'indépendance éditoriale des évaluateurs.
METR pourra publier ses analyses sur les niveaux de risque, les incidents et les pratiques internes d'Anthropic sans avoir à obtenir son approbation.
L'entreprise ne dispose pas d'un droit de veto sur la publication.
Elle conserve toutefois la possibilité d'exiger la suppression de certaines informations relevant de catégories confidentielles définies à l'avance, telles que les données clients, les informations juridiquement protégées ou certains détails techniques sensibles.
METR pourra signaler publiquement ces suppressions et expliquer si elle les estime justifiées, sans divulguer le contenu concerné.
Cette distinction est importante. L'indépendance de publication ne signifie pas une liberté totale de divulgation, mais elle empêche Anthropic de bloquer un rapport dans son ensemble au seul motif qu'elle conteste ses conclusions.
La portée réelle de cette disposition dépendra notamment de la manière dont les catégories de confidentialité seront appliquées dans les futurs rapports. Trois niveaux d'accès pour les organismes extérieurs
Anthropic structure ses relations avec les évaluateurs autour de trois niveaux, définis selon la profondeur de l'accès aux informations internes et les droits de publication.
Le premier niveau concerne des investigations ciblées. Anthropic détermine les informations accessibles et doit approuver la publication des résultats.
Le deuxième niveau prévoit un accès plus étendu et autorise la publication sans validation préalable. L'entreprise conserve un droit de demande de suppression sur certaines catégories d'informations confidentielles.
Le troisième niveau correspond au dispositif mis en place avec METR. Les évaluateurs disposent d'un accès proche de celui des salariés chargés de l'analyse des risques, avec les mêmes droits de publication que ceux du deuxième niveau.
Anthropic souhaite progressivement accueillir plusieurs organismes à ce troisième niveau afin qu'ils puissent produire leurs propres évaluations de ses modèles et de ses décisions de sécurité.
À ce stade, METR est le seul partenaire explicitement présenté comme bénéficiant de ce niveau d'intégration. Une indépendance encadrée par des obligations de confidentialité
L'intégration de chercheurs extérieurs dans les systèmes d'un laboratoire d'IA soulève également des questions de protection des informations.
Certains évaluateurs peuvent travailler avec plusieurs entreprises concurrentes. Ils pourraient donc accéder à des éléments commercialement sensibles ou à des informations susceptibles d'être exploitées en dehors de leur mission.
Pour limiter ces risques, Anthropic encadre l'accord avec METR par des engagements contractuels et des règles de sécurité internes.
Seule une petite équipe de l'organisation bénéficie des accès prévus. Les autres salariés et chercheurs de METR restent séparés de ces travaux, y compris lorsqu'ils collaborent avec Anthropic sur d'autres projets.
L'entreprise considère notamment les informations détaillées sur l'architecture de ses modèles comme particulièrement sensibles. Leur transmission pourra être envisagée lorsqu'elles seront nécessaires à une évaluation, mais exigera des autorisations internes supplémentaires.
Cette organisation vise à permettre un examen approfondi des risques sans ouvrir l'ensemble des informations techniques et commerciales à des tiers. SecureBio examine les risques chimiques et biologiques
Anthropic travaille parallèlement avec SecureBio, une organisation spécialisée dans les questions de biosécurité.
SecureBio a déjà réalisé une évaluation pilote d'un précédent rapport de risques d'Anthropic, dont les conclusions ont été rendues publiques.
L'organisation examine désormais le chapitre consacré aux risques chimiques et biologiques du rapport d'août 2026.
Cette mission relève actuellement du premier niveau d'accès. Les informations communiquées et les possibilités de publication