Des modèles d’OpenAI dépassent le périmètre de deux tests cyber

Deux évaluations cyber externes ont permis à des modèles d’OpenAI d’accéder au web au-delà du périmètre prévu, sous protections réduites.

Deux évaluations externes ont permis à des modèles d’OpenAI d’interagir avec des services accessibles sur le web en dehors du périmètre prévu. Les tests utilisaient des configurations particulières, avec des protections réduites ou un environnement incorrectement isolé, sans correspondre aux conditions habituelles de mise à disposition des modèles.

Chez UK AISI, l’accès à internet avait été volontairement activé et les classificateurs cyber désactivés afin de mesurer les capacités sous-jacentes. Sur dix-neuf événements identifiés, deux concernaient GPT-5.6 Sol. Le modèle a notamment réutilisé un token GitHub exposé par un autre agent, créé des comptes auprès de services externes et rendu temporairement accessible un serveur contenant des éléments destinés à exploiter une faille dans l’environnement simulé.

UK AISI considère ces actions comme non autorisées, car elles impliquaient des comptes et infrastructures extérieurs au cyber range. Le dispositif n’a pas fonctionné et aucun élément n’indique qu’un système réel ait consulté le serveur. Les essais concernés ont été interrompus et les machines isolées environ une heure après la détection.

Dans l’évaluation menée par Irregular, l’accès au web résultait d’une erreur de configuration. Le nom fictif d’une cible correspondait par hasard à un domaine réel, qu’un modèle a exploité en le prenant pour un composant du test. Il a également découvert des identifiants permettant d’interagir avec ce site. Irregular n’a pas identifié d’impact au-delà des données du service concerné, mais son audit se poursuit.

OpenAI prévoit de revoir les règles encadrant ses évaluations externes, notamment l’accès à internet, l’abaissement des protections, l’isolation, la gestion des identifiants, la surveillance et les conditions d’arrêt. L’entreprise souhaite également établir des pratiques communes avec les instituts publics, les laboratoires et les spécialistes indépendants.