Trente jours d'examen avant qu'un modèle de frontière ne sorte

Demis Hassabis suggère de tester les modèles de frontière durant trente jours. Un examen obligatoire pour sécuriser les systèmes d'intelligence artificielle.

Demis Hassabis, patron de Google DeepMind, avance une proposition de régulation de l'IA de frontière : la création d'un organisme de normalisation américain, chargé d'évaluer les modèles les plus puissants avant leur mise sur le marché.

Le montage envisagé s'inspire de la FINRA, l'autorité d'autorégulation des marchés financiers américains : un partenariat public-privé sous supervision fédérale, doté d'un conseil réunissant des experts techniques indépendants et des représentants de l'open source, et financé principalement par l'industrie, afin d'attirer des ingénieurs de haut niveau et de payer la puissance de calcul que réclament les tests à grande échelle.

Le mécanisme repose sur un seuil. Un modèle serait dit « de frontière » s'il franchit certains résultats sur une batterie d'évaluations définie par l'organisme et régulièrement renouvelée. Les entreprises concernées deviendraient des « laboratoires de frontière », tenus à des pratiques précises : publication de fiches techniques, cybersécurité interne, vérification des personnels clés, moyens dédiés à la recherche en sécurité. Dans un premier temps, ces laboratoires soumettraient volontairement leurs modèles à examen jusqu'à trente jours avant leur sortie ; une fois le protocole éprouvé, le passage deviendrait obligatoire pour une mise sur le marché américain.

Les évaluations porteraient sur la cybersécurité, les menaces biologiques et d'autres domaines à haut risque, avec des tests spécifiques aux systèmes agentiques : tentatives de contournement des garde-fous, signes de tromperie. Hassabis propose aussi que le dispositif puisse, si la situation l'exige, coordonner un ralentissement du développement. Le cadre s'appliquerait quel que soit le pays d'origine du modèle, ouvert ou fermé, les modèles ordinaires issus de start-up ou du monde académique en étant exemptés.

Sa justification tient en un constat : la course commerciale et géopolitique fait avancer les capacités plus vite que la compréhension qu'on en a, et personne, y compris parmi les experts, ne s'accorde sur la suite.