Comment Anthropic compte marquer les futurs textes générés par Claude

Les futurs modèles Claude intégreront un watermark statistique invisible destiné à détecter leur intervention dans un texte, sans ajouter de caractères cachés.

Les futurs modèles Claude intégreront un watermark textuel destiné à estimer la probabilité que le modèle ait participé à la rédaction d’un contenu. Anthropic indique mettre en place ce mécanisme pour se conformer aux exigences européennes de marquage des contenus générés par IA. Le dispositif sera appliqué mondialement au départ, l’entreprise expliquant ne pas disposer encore d’un moyen suffisamment durable pour le limiter géographiquement.

Le système repose sur une variante de SynthID-Text, une méthode publiée par Google DeepMind. Aucun caractère caché ni élément supplémentaire n’est ajouté au texte. Le watermark intervient plutôt au moment où le modèle choisit entre plusieurs mots jugés également acceptables. Une clé modifie la source d’aléa utilisée pour ces choix, créant progressivement un motif statistique détectable après coup.

Anthropic affirme que cette modification n’entraîne pas de différence perceptible en matière de contenu, de créativité ou de lisibilité, et qu’elle ne nécessite aucun token supplémentaire. Le watermark ne contient par ailleurs aucune information permettant de remonter à un utilisateur, une organisation ou une conversation particulière.

La détection reste probabiliste et dépend fortement de la quantité de texte produite par Claude. Sur un passage court, très factuel ou soumis à des contraintes précises, le modèle dispose de moins de choix possibles et laisse donc moins de signal. Même logique pour du code, où de nombreux tokens ne peuvent pas être remplacés arbitrairement sans modifier ou casser le résultat. Les commentaires et certains choix non fonctionnels peuvent en revanche porter davantage de watermark.

Le cas de l’édition est également nuancé. Lorsqu’un texte humain est simplement relu ou légèrement corrigé, trop peu de mots peuvent être modifiés pour rendre l’intervention de Claude détectable. Une réécriture plus importante laisse davantage de signal. Les traductions, en revanche, sont watermarked puisque l’ensemble des mots de sortie est choisi par le modèle.

Anthropic reconnaît aussi que le système peut être affaibli par la modification du texte. Quelques retouches ne devraient pas nécessairement supprimer le signal, mais une réécriture complète peut le faire disparaître. Le watermark ne permet par ailleurs pas d’affirmer qu’un texte a été entièrement écrit par Claude, seulement d’estimer si Claude est probablement intervenu à un moment donné.

Une API de détection doit être proposée ultérieurement. Pour les fichiers comme les PNG, JPG ou SVG, Anthropic utilisera une autre approche avec des Content Credentials C2PA inscrites dans les métadonnées et signées cryptographiquement. Ce mécanisme indique qu’un fichier a été produit ou traité avec Claude, sans modifier son contenu visuel ni embarquer d’informations personnelles.