GPT-Live délègue les tâches lourdes et hérite de la sécurité des modèles appelés

OpenAI accompagne ses modèles vocaux GPT-Live-1 et GPT-Live-1 mini d'une fiche de sécurité (system card) centrée sur les risques propres à la voix.

Un point d'architecture structure le document : ces modèles vocaux délèguent les tâches complexes à d'autres modèles maison, et le travail produit hérite alors de l'entraînement de sécurité du modèle sollicité. Les évaluations publiées décrivent donc le comportement avec délégation, pour coller au contexte réel de déploiement. À la sécurité déjà en place pour le texte s'ajoutent des garde-fous pensés pour l'oral : entrées et sorties contrôlées au fil de l'échange, possibilité d'infléchir ou d'interrompre une réponse, de diffuser un message de sécurité vocal, d'afficher des ressources écrites, ou, dans les cas les plus à risque, de mettre fin à l'appel.

Pour mesurer tout cela, OpenAI dit avoir bâti des évaluations spécifiques à la voix, appuyées sur des cas réels d'usagers ayant accepté de partager leurs échanges et sur des prompts synthétiques ciblant des situations limites. L'entreprise précise que ces jeux sont volontairement difficiles et adversariaux, non représentatifs des taux observés en usage courant. Sur ces tests, GPT-Live ferait aussi bien ou mieux que l'Advanced Voice Mode précédent, deux légères régressions (dépendance émotionnelle, contenu sexuel) étant présentées comme non significatives.

Côté Preparedness Framework, le Safety Advisory Group conclut qu'aucun des deux modèles, hors délégation, ne peut être jugé « High » dans les catégories suivies (risque biologique et chimique, auto-amélioration de l'IA, cybersécurité). L'exposition cyber reste bornée par l'absence d'exécution de code et d'accès autonome à des outils. Le red teaming, mené en interne et en externe sans les protections système, a couvert l'usurpation d'identité, l'automutilation, la dépendance émotionnelle ou encore les voix d'apparence enfantine.