What is Red-teaming?

Test adverse d'un système d'IA : une équipe cherche délibérément à le faire échouer ou à provoquer des réponses dangereuses, biaisées ou interdites, afin de repérer les failles avant leur exploitation. Emprunté à la sécurité informatique, c'est un pilier de l'évaluation de la sûreté des modèles.