P-1 masque les données personnelles avant l’appel aux modèles

Respan déploie P-1 pour détecter et masquer les données personnelles dans les requêtes adressées aux modèles d’IA, avec des performances revendiquées sur 20 000 exemples.

Un nom, une adresse électronique ou un numéro de téléphone pourra être retiré d’une requête avant que celle-ci poursuive son parcours dans une application d’IA. Respan présente P-1, son nouveau modèle de détection et de masquage des informations personnelles, désormais utilisé par la fonction PII Redaction de sa plateforme.

L’objectif consiste à intercepter les données sensibles sans ralentir sensiblement les appels aux modèles ni retirer inutilement des éléments utiles. La fonction peut être activée à l’aide d’un commutateur dans Respan, sans que chaque application doive intégrer son propre système de reconnaissance.

P-1 n’est pas présenté comme un modèle conversationnel. Il analyse le contenu d’une requête afin d’y repérer les segments correspondant à des informations permettant d’identifier une personne, puis les masque avant la suite du traitement. Cette opération peut réduire la quantité de données transmise au fournisseur chargé de produire la réponse.

Respan place cette protection au niveau de sa passerelle. Celle-ci fournit une interface commune vers plus de 1 000 modèles et prend déjà en charge le routage, les tentatives supplémentaires, les solutions de secours, la mise en cache et les limites de dépenses. L’entreprise peut donc appliquer le même contrôle à des requêtes destinées à plusieurs fournisseurs, sans dépendre de leurs fonctions respectives.

L’annonce ne précise toutefois pas exactement ce qui remplace les informations détectées. Une donnée peut être supprimée, remplacée par une catégorie générique ou transformée en identifiant temporaire permettant de la rétablir ultérieurement. Ces choix ont des conséquences différentes sur la qualité de la réponse et sur la possibilité de retrouver la valeur initiale.

Un assistant chargé de rédiger un courrier peut par exemple fonctionner avec les marqueurs `[NAME]` et `[EMAIL]`. Un agent devant mettre à jour un dossier client peut, au contraire, avoir besoin de références cohérentes entre plusieurs messages ou appels d’outils. La simple disparition d’une valeur ne suffit donc pas toujours : le système doit conserver les relations utiles sans transmettre l’identité réelle.

Respan affirme avoir comparé P-1 à plusieurs fournisseurs de rédaction de données personnelles sur 20 000 exemples issus de quatre jeux de données publics établis. Le modèle arriverait en tête pour le score F1 global.

Ce score combine la précision et le rappel. La précision mesure la proportion de détections qui correspondent réellement à des données personnelles. Le rappel indique la part des informations présentes que le système parvient à repérer. Un bon résultat exige ainsi de ne pas laisser passer trop de données sensibles tout en évitant de masquer des expressions ordinaires.

L’entreprise met particulièrement en avant les documents ne contenant aucune information personnelle. P-1 aurait produit le taux de fausses alertes le plus faible sur chacun des quatre jeux évalués. Cet indicateur compte dans une application de production : un filtre trop agressif peut retirer des noms d’entreprises, des dates nécessaires, des références de produits ou des nombres dépourvus de caractère privé.

Ces résultats restent pour le moment déclaratifs. Le message de lancement ne fournit ni les noms et versions des quatre jeux de données, ni les concurrents testés, ni les scores détaillés. Il ne décrit pas non plus la correspondance établie entre des catégories qui peuvent varier d’un service à l’autre.

Une moyenne globale peut masquer des différences importantes. Un système performant sur les adresses électroniques et les numéros de téléphone peut rencontrer davantage de difficultés avec les adresses postales, les dates liées à une personne, les identifiants administratifs ou les formulations indirectes. Une ventilation par catégorie serait nécessaire pour connaître les usages dans lesquels P-1 apporte réellement une amélioration.

Les conditions linguistiques constituent une autre inconnue. La détection d’un numéro de carte suit des structures relativement stables, mais celle d’un nom, d’une adresse ou d’une information médicale dépend davantage de la langue et du contexte. Respan ne publie pas encore la liste des langues évaluées ni les résultats obtenus séparément pour chacune d’elles.

Le volume de 20 000 exemples ne permet pas non plus de mesurer à lui seul la diversité du test. Le résultat dépend de la répartition entre documents contenant des données personnelles et documents propres, du nombre d’entités par texte, de leur longueur et de leur proximité avec des expressions ressemblantes.

La provenance publique des données facilite théoriquement la reproduction du benchmark. Encore faudrait-il disposer du protocole, des partitions utilisées, des règles de normalisation, des seuils et de la version de chaque concurrent. Aucun dépôt, script d’évaluation ou rapport technique complet n’accompagne actuellement l’annonce.

L’expression « meilleur modèle de confidentialité au monde » doit donc être comprise comme la conclusion de Respan à partir de sa propre comparaison. Elle ne constitue pas encore un résultat reproduit indépendamment ni une évaluation de toutes les formes de protection des données.

La confidentialité ne se réduit d’ailleurs pas à la reconnaissance des PII. Un texte peut révéler une situation médicale, une opinion politique, un projet commercial ou un secret interne sans contenir de nom, de téléphone ou d’identifiant direct. Certaines informations ne deviennent identifiantes qu’une fois associées à d’autres éléments.

Le NIST inclut ainsi les informations permettant de distinguer ou de retrouver l’identité d’une personne, seules ou combinées à d’autres. La notion européenne de donnée personnelle couvre également les identifications indirectes. Un filtre fondé sur des catégories prédéfinies ne garantit donc pas l’anonymat d’un document.

Le masquage ressemble plus souvent à une pseudonymisation qu’à une anonymisation définitive. Une personne peut parfois être retrouvée à partir du