The Anthropic Institute publie son agenda de recherche en quatre axes

The Anthropic Institute dévoile son agenda de recherche axé sur l'économie, la sécurité, le comportement des IA à grande échelle et l'auto-amélioration.

The Anthropic Institute (TAI), branche de recherche d'Anthropic dédiée aux impacts sociétaux de l'intelligence artificielle, publie son agenda de recherche, structuré autour de quatre axes : la diffusion économique, les menaces et la résilience, le comportement des systèmes IA déployés à grande échelle, et la R&D pilotée par l'IA. L'institut entend exploiter sa position interne au sein d'un laboratoire frontier pour observer en amont les transformations à l'œuvre et publier ses constats à destination des chercheurs externes, des gouvernements et du public.

Sur le volet économique, TAI prévoit d'enrichir l'Anthropic Economic Index avec des données plus granulaires et plus fréquentes, autour de la diffusion sectorielle de l'IA, des effets sur la productivité, et de la question du pipeline professionnel : comment forme-t-on des seniors si l'IA absorbe les tâches qui structurent traditionnellement la formation des juniors. Le volet menaces alimente notamment l'agenda de la Frontier Red Team, avec des travaux sur la balance offensive-défensive en cyber et en biologie, et sur l'éventualité d'une infrastructure de gestion de crise inspirée des dispositifs hérités de la Guerre froide.

Le troisième axe, AI systems in the wild, se concentre sur l'épistémologie collective lorsque des millions d'utilisateurs consultent les mêmes modèles, sur la gouvernance des agents autonomes, et sur les valeurs exprimées par les systèmes en production. Le dernier axe, sur la R&D pilotée par l'IA, aborde frontalement l'auto-amélioration récursive : télémétrie de l'accélération scientifique, exercices de simulation d'explosion d'intelligence, et points d'intervention disponibles pour en ralentir la trajectoire.

Les travaux de TAI sont conçus pour alimenter les décisions internes d'Anthropic et le Long-Term Benefit Trust. Un programme de Fellowship rémunéré de quatre mois est ouvert aux chercheurs souhaitant contribuer à ces questions.