La Fondation OpenAI structure un programme de résilience face à l'IA

La Fondation OpenAI investit 130 millions de dollars dans son programme AI Resilience pour sécuriser la cybersécurité, la biologie et la sûreté des modèles.

La Fondation OpenAI présente son prochain grand chantier, baptisé AI Resilience : bâtir un écosystème capable d'absorber les risques de l'IA à mesure que ses capacités progressent, pour que la société puisse en tirer parti. Plus de 130 millions de dollars de subventions sont en cours de finalisation dans ce cadre, les bénéficiaires devant être communiqués prochainement.

Le programme se concentre d'abord sur quatre terrains. La bio-résilience cherche à prévenir d'éventuelles pandémies liées à des agents pathogènes conçus artificiellement, en misant sur des défenses indépendantes d'un pathogène donné. La cyber-résilience entend protéger les systèmes critiques, notamment les acteurs les moins armés pour déployer rapidement des défenses assistées par IA. La sûreté des modèles porte sur le contrôle de systèmes toujours plus autonomes, via des institutions d'évaluation indépendantes et des progrès en alignement. Le dernier volet concerne l'effet de l'IA sur les jeunes, avec un effort de recherche indépendante sur l'apprentissage, le développement et le lien social.

Cette initiative complète d'autres programmes de la Fondation, dédiés aux sciences de la vie et aux mutations de l'emploi, dans un plan qui prévoit plus d'un milliard de dollars d'investissements sur l'année à venir et vingt-cinq milliards à plus long terme pour la résilience et les sciences de la vie.