Qu'est-ce que Jacobian lens ?

Technique d'interprétabilité de la famille des « lens » (comme le logit lens) : au lieu de projeter une représentation interne directement vers le vocabulaire, elle utilise la jacobienne (l'approximation linéaire locale des couches restantes) pour lire plus fidèlement comment cet état intermédiaire influence la sortie du modèle.