Skyfall AI soutient que les modèles de langage n'apprennent pas de leur expérience

Skyfall AI prouve avec son banc d'essai Morpheus que les grands modèles de langage n'apprennent pas en continu et s'avèrent incapables de s'adapter.

Le laboratoire Skyfall AI publie Morpheus, un banc d'essai qui simule des environnements d'entreprise persistants, et une étude qui en tire une conclusion sévère : les grands modèles de langage ne sont pas des apprenants continus.

Le dispositif se distingue des bancs habituels. Là où les environnements classiques d'apprentissage par renforcement remettent le monde à zéro à la fin de chaque épisode, Morpheus ne réinitialise rien : les décisions passées pèsent sur la suite, les objectifs se déplacent au fil de changements de configuration, et les conséquences d'une action n'apparaissent parfois qu'après plusieurs journées simulées. Les tâches relèvent de la logistique : répartir des ressources entre priorités concurrentes, ordonnancer des expéditions et des réceptions, alors que le contexte se dégrade (panne de transmission de données, chute de capacité d'entrepôt).

Le résultat contre-intuitif est le cœur de l'étude. Sur la tâche la plus simple, les modèles testés maintiennent des performances stables à travers les perturbations. Skyfall y voit non pas une preuve de robustesse mais son contraire : la stabilité signifie que le modèle applique la même heuristique du début à la fin, sans ajuster sa stratégie. Il ne s'adapte pas, il exécute une recette héritée de son pré-entraînement, qui se trouve encore convenir. Autrement dit, la performance mesure la couverture du pré-entraînement, pas la capacité d'apprendre.

L'illusion se dissipe sur la tâche difficile, où la chaîne de conséquences s'allonge. Les performances s'effondrent, un des modèles tombant à zéro à plusieurs reprises sans retrouver de logique. Un autre échec est signalé : incapable de détecter que les conditions avaient changé, un modèle a continué d'appliquer une politique de plus en plus inadaptée, le signal utile étant sorti de sa fenêtre de contexte.

L'argument le plus dérangeant tient à l'opacité. Quand un agent d'apprentissage par renforcement chute, on peut imputer l'échec à un mécanisme précis (adaptation trop lente, oscillation de la politique) et le corriger. Quand un modèle de langage chute, ses poids n'ayant pas bougé, il n'y a rien à mesurer : dépassement de contexte, sortie du domaine d'entraînement ou désalignement de récompense produisent des courbes identiques. La panne est réelle, la cause introuvable.