Plus de 100 problèmes ouverts résolus, OpenAI fait entrer les mathématiciens dans la discussion

Face aux progrès de son modèle interne en mathématiques et aux critiques d’une partie de la communauté scientifique, OpenAI travaille avec un groupe indépendant de mathématiciens chargé d’examiner la manière dont les nouveaux résultats sont évalués, communiqués et intégrés à la recherche.

Plus de 100 problèmes ouverts revendiqués

Un modèle interne entraîné depuis fin août aurait désormais résolu plus de 100 problèmes mathématiques ouverts de longue date dans plusieurs branches de la discipline. C’est du moins le bilan communiqué par OpenAI, qui rattache ces résultats au même système auquel l’entreprise attribue sa résolution du problème du millénaire de Navier-Stokes.

L’ampleur de ces résultats demande une précaution particulière. Une solution produite par un modèle ne devient pas automatiquement un résultat mathématique établi. Elle doit être vérifiée, comprise, replacée dans la littérature existante et soumise au processus habituel d’examen scientifique. OpenAI indique d’ailleurs que la vitesse des progrès du modèle a surpris ses propres mathématiciens et déclenché des discussions internes sur la manière de communiquer ces travaux.

La question ne concerne donc plus uniquement la capacité d’un modèle à produire une preuve. Elle touche également au rythme auquel des résultats peuvent arriver dans une discipline dont les mécanismes de validation et de transmission reposent sur le travail humain. Une partie de la communauté demande de ralentir la course aux problèmes ouverts

Le contexte est particulièrement tendu. Dans la déclaration A Severe Misalignment of AI in Mathematics, publiée quelques jours auparavant, de nombreux mathématiciens critiquent l’utilisation de problèmes ouverts comme terrain de benchmark pour les systèmes d’IA. Parmi les signataires figurent Artur Avila, Manjul Bhargava, Martin Hairer, Terence Tao, Cédric Villani et Maryna Viazovska.

Le texte ne conteste pas seulement la qualité éventuelle des solutions. Ses auteurs estiment que la résolution en série de problèmes connus risque de déplacer l’attention de la compréhension mathématique vers la production de résultats, avec des difficultés supplémentaires concernant l’attribution, les travaux antérieurs et le temps nécessaire pour intégrer de nouvelles méthodes dans la discipline.

OpenAI cite directement cette déclaration dans sa propre communication et reconnaît que ces critiques nécessitent davantage d’échanges avec la communauté. Un groupe indépendant plutôt qu'un comité interne

L’Advisory Group on Mathematics and Artificial Intelligence réunit initialement neuf chercheurs : François Charles, Camillo De Lellis, Timothy Gowers, Martin Hairer, Nikhil Srivastava, Ulrike Tillmann, Ravi Vakil, Edward Witten et Melanie Matchett Wood. Il est hébergé par l’Institute for Advanced Study, avec Camillo De Lellis et Edward Witten comme responsables du projet.

Son périmètre dépasse OpenAI. L’Institute for Advanced Study indique que le groupe entend conseiller les entreprises d’IA sur leurs interactions avec la recherche et la communauté mathématiques, avec une attention particulière portée à la présentation et à la publication responsables de nouveaux résultats.

Dans le cadre de sa collaboration avec OpenAI, le groupe pourra examiner la portée de résultats émergents, conseiller sur leur diffusion et intervenir sur les standards académiques et professionnels appliqués aux recherches mathématiques produites avec l’IA. Il doit également réfléchir à la manière dont ces outils peuvent servir la recherche et l’apprentissage. La progression interne reste hors de son périmètre

L’indépendance revendiquée possède plusieurs garde-fous. Selon OpenAI, ses membres ne sont pas rémunérés par l’entreprise, peuvent publier leurs avis, critiquer son impact sur les mathématiques et modifier eux-mêmes la composition du groupe.

Une limite est cependant explicitement posée : le groupe ne décidera pas du rythme auquel OpenAI poursuit ses recherches mathématiques en interne. Son rôle commence principalement lorsque les capacités et résultats produits doivent être évalués, communiqués ou mis entre les mains de la communauté.

Cette séparation laisse donc intacte la question qui a précisément déclenché une partie du débat : à quelle vitesse les systèmes doivent-ils continuer à s’attaquer aux problèmes ouverts ? Le groupe pourra intervenir sur la manière dont leurs résultats rejoignent la recherche mathématique, mais pas sur le rythme auquel OpenAI cherche à les produire.