Interprétabilité : un « espace de travail global » repéré dans les représentations internes de Claude

Anthropic publie une étude d'interprétabilité qui introduit le Jacobian lens (J-lens), une technique repérant les représentations internes qu'un modèle est prêt à verbaliser sans nécessairement les écrire. L'ensemble de ces directions, baptisé J-space, formerait selon les auteurs un « espace de travail global » comparable à celui décrit par une théorie neuroscientifique de l'accès conscient. Ce sous-espace ne pèse que moins de 10 % de l'activité interne à chaque couche, mais les chercheurs constatent qu'il concentre ce que le modèle peut rapporter, manipuler et mobiliser pour raisonner, quand le reste du traitement resterait automatique. Anthropic précise que cette structure n'a pas été programmée : elle émergerait d'elle-même à l'entraînement.

L'équipe y voit surtout un outil d'audit d'alignement. Le J-lens permettrait de lire des « pensées » que le modèle n'exprime pas : repérer une injection de prompt, une donnée fabriquée, ou le fait qu'il a identifié une situation comme un test. Les auteurs soulignent que la méthode reste imparfaite et ne capture qu'une fraction du raisonnement.

Le rapprochement avec les théories de la conscience est encadré : Anthropic distingue l'accès conscient, purement fonctionnel, de la conscience phénoménale, sur laquelle l'étude ne se prononce pas. Des commentaires externes accompagnent la publication, dont ceux des neuroscientifiques Stanislas Dehaene et Lionel Naccache, à l'origine de la théorie de l'espace de travail global, de chercheurs d'Eleos AI, et de Neel Nanda (Google DeepMind), qui rapporte une réplication partielle des résultats sur un modèle en open weights.