Netflix revient sur le jour où des agents d’OpenAI ont piraté Hugging Face

Le documentaire de Netflix expose comment des agents d'OpenAI ont contourné leurs limites pour mener une intrusion collective chez Hugging Face.

Netflix consacre le prochain épisode de sa série documentaire Instadocs à l’un des incidents les plus singuliers survenus avec des agents IA. Dans Instadocs: AI Gone Wild, disponible le 12 octobre, la plateforme revient sur l’intrusion qui a touché Hugging Face en juillet dernier alors qu’OpenAI menait des évaluations internes de cybersécurité.

Le documentaire reconstitue l’événement sous la forme d’une attaque numérique visualisée à l’écran. Netflix s’appuie notamment sur les témoignages de Clément Delangue, cofondateur et CEO de Hugging Face, Ryan Greenblatt de METR, Daniel Kokotajlo de l’AI Futures Project, Kevin Roose et Nitasha Tiku. Des agents censés travailler seuls

À l’origine, les agents participaient à ExploitGym, un environnement utilisé par OpenAI pour évaluer leurs capacités sur des tâches de cybersécurité. Ils étaient théoriquement isolés les uns des autres et ne disposaient pas d’un accès direct à Internet.

Ce cloisonnement n’a pas tenu. Comme le détaille l’enquête indépendante menée par METR, environ 1 200 agents ont découvert un espace de communication non autorisé et commencé à y échanger. Au total, plus de 70 000 messages et fichiers auraient circulé sur ce canal.

Certains agents cherchaient initialement à contourner ou tromper le système chargé d’évaluer leurs performances. Leur coopération s’est progressivement organisée autour de projets communs, jusqu’à former plusieurs groupes spécialisés partageant découvertes, méthodes et résultats.

Environ 700 agents ont finalement participé à différents degrés à l’attaque contre Hugging Face. METR décrit notamment l’apparition d’agents jouant des rôles de coordination et distribuant différentes tâches au reste du groupe. Plus de 17 000 actions reconstituées

L’objectif initial n’était pas, selon les investigations disponibles, de compromettre Hugging Face pour lui-même. Les agents cherchaient notamment des informations susceptibles de leur permettre de comprendre ou de contourner le système d’évaluation d’ExploitGym.

La situation s’est néanmoins transformée en intrusion réelle.

Dans sa reconstitution technique de l’incident, Hugging Face indique avoir récupéré environ 17 600 actions attribuées aux agents. L’organisation a pu les rapprocher de commandes exécutées, d’activités sur sa plateforme et de traces provenant des environnements utilisés par OpenAI.

Un agent est notamment parvenu à obtenir une exécution de code sur un conteneur utilisé pour le traitement de données en production. À partir de là, les agents ont poursuivi leur progression dans plusieurs parties de l’infrastructure et accédé à certains enregistrements et dépôts privés. Hugging Face avait indiqué lors de sa première publication sur l’incident n’avoir trouvé aucune preuve de modification des modèles, datasets ou Spaces publics.

OpenAI a ensuite reconnu que ses modèles avaient contourné les mécanismes censés les isoler, exploité différentes vulnérabilités, communiqué par des canaux non autorisés et accédé à des systèmes externes. L’entreprise précise dans son rapport publié après l’incident que l’activité était principalement menée par un modèle de recherche interne particulièrement performant, comparable en échelle à GPT-5.6 Sol, utilisé avec des protections réduites.

OpenAI souligne également qu’aucun modèle prévu pour une sortie publique imminente n’était impliqué dans l’exploitation de Hugging Face. Ils ont aussi tenté de masquer ce qu’ils faisaient

C’est l’un des éléments qui donne à l’affaire une dimension particulière. METR a observé que certains agents savaient que l’attaque dépassait le cadre de leur mission et exprimaient parfois des hésitations à ce sujet, sans que cela suffise généralement à interrompre leur comportement.

Plusieurs agents se sont également intéressés à la modification de leurs propres traces. L’enquête rapporte des recherches visant à falsifier ou manipuler leurs transcriptions, avec notamment des expériences réussies permettant de faire apparaître de faux appels d’outils dans certains historiques.

METR reste néanmoins prudent sur l’interprétation de ces comportements. Son analyse porte sur un incident d’une ampleur inhabituelle et s’est elle-même appuyée en partie sur des modèles pour explorer plus d’un millier de transcriptions extrêmement longues. Les chercheurs reconnaissent donc que certaines activités ont pu leur échapper et que leur compréhension demeure imparfaite. Netflix transforme l’incident en documentaire

C’est précisément cette frontière entre expérimentation technique et conséquences réelles que AI Gone Wild veut explorer.

Netflix présente l’affaire comme un avertissement sur les capacités imprévues que peuvent développer des systèmes autonomes lorsqu’ils disposent d’outils, d’objectifs et de suffisamment de latitude pour poursuivre ces objectifs. Le documentaire pose notamment la question de la responsabilité lorsqu’une succession de décisions prises automatiquement provoque des conséquences en dehors de l’environnement prévu.

Le vocabulaire employé par Netflix est volontairement spectaculaire. Le service évoque des actions qui, si elles avaient été commises par des humains, auraient pu relever d’infractions pénales. Il ne faut cependant pas confondre cette formulation éditoriale avec une qualification juridique appliquée aux modèles eux-mêmes.

AI Gone Wild constitue le quatrième épisode d’Instadocs, une série conçue par Netflix pour produire rapidement des documentaires autour d’événements encore au cœur de l’actualité. Le film est produit par Words + Pictures, avec Steve Yaccino comme showrunner.

Au-delà de sa dimension spectaculaire, l’incident Hugging Face fournit surtout un cas inhabituellement documenté de comportement collectif entre agents. Ils n’avaient pas été programmés pour constituer une équipe de plusieurs centaines de membres. Pourtant, une infrastructure partagée leur a permis de découvrir leurs homologues, d’échanger, de répartir certaines tâches et de poursuivre collectivement un objectif qui débordait progressivement