OpenAI encadre par des principes publics son travail de sécurité nationale

OpenAI publie une série de principes régissant ses partenariats avec les gouvernements et les usages de sa technologie en matière de sécurité nationale. La démarche, présentée comme un effort de transparence, a mobilisé l'expert en sécurité nationale David Kris pour un regard indépendant, ainsi que des consultations internes.

Ces principes arrivent alors que l'entreprise étend son travail avec le gouvernement américain et des partenaires alliés sur deux fronts défensifs, le cyber et la biosécurité. Dans le cadre de son programme de cyberdéfense Daybreak, OpenAI dit avoir noué des partenariats « Trusted Access for Cyber » avec l'Australie, le Canada, le Japon, la Corée du Sud, la France, l'Allemagne, la Pologne, les Pays-Bas et des institutions de l'Union européenne comme l'ENISA, en plus d'une coopération avec le gouvernement britannique sur le test et l'évaluation. Côté biosécurité, l'accès à son modèle GPT-Rosalind a été élargi le mois dernier à des acteurs publics américains et alliés pour des missions de santé publique et de biodéfense.

Le texte couvre aussi les contrats déjà en cours, dont celui passé avec le Department of War. OpenAI y rappelle les restrictions posées lors de cet accord : pas de surveillance domestique de masse, pas de pilotage de systèmes d'armes autonomes, pas de décisions automatisées à fort enjeu. L'entreprise dit par ailleurs soutenir des initiatives législatives visant à encadrer les usages militaires les plus sensibles, estimant que ces arbitrages relèvent du processus démocratique et que son rôle est d'éclairer ces décisions, pas de les prendre à la place des institutions.