PII-Tracer repère les données privées avant leur départ vers le cloud

PII-Tracer détecte localement les données personnelles avant leur transfert vers le cloud, tandis que PII-TRACE mesure leur suivi au fil des conversations.

Un nom apparaît au début d’une conversation, un numéro de téléphone quelques messages plus tard, puis la même adresse électronique revient au moment de confirmer une réservation. Pour protéger réellement ces informations, les repérer une seule fois ne suffit pas. Chaque réapparition doit être détectée avant que la conversation soit transmise à un service distant.

C’est le problème auquel s’attaque PII-Tracer, un modèle de 600 millions de paramètres présenté par le Perplexity Secure Intelligence Institute. Il est accompagné de PII-TRACE, un nouveau benchmark consacré à la détection des informations permettant d’identifier une personne dans des conversations longues, multilingues et composées de plusieurs échanges.

Les deux noms désignent donc des éléments différents. PII-TRACE est le jeu d’évaluation utilisé pour comparer les détecteurs. PII-Tracer est le modèle compact conçu par Perplexity pour effectuer cette détection directement sur l’appareil de l’utilisateur.

Le projet s’inscrit dans l’architecture Hybrid Compute annoncée pour Perplexity Computer sur Mac. Certaines tâches sont exécutées localement, notamment celles qui impliquent des fichiers privés, tandis que les opérations nécessitant davantage de ressources ou un accès extérieur peuvent être confiées à des modèles dans le cloud.

Cette séparation n’offre une protection que si le système local reconnaît les informations sensibles avant leur départ. PII-Tracer doit fournir ce signal. Lorsqu’une séquence est identifiée, l’application peut conserver la demande sur l’appareil, masquer la partie concernée ou solliciter l’autorisation de l’utilisateur avant de poursuivre avec un service distant.

Le modèle ne prend toutefois pas lui-même la décision finale. Il localise les passages susceptibles de contenir une information personnelle. L’application applique ensuite la politique de routage prévue par Perplexity ou par l’organisation qui l’utilise. Une erreur de détection peut donc conduire soit à transmettre une donnée qui aurait dû rester locale, soit à bloquer inutilement une requête sans information privée.

La difficulté vient en partie du contexte. Une adresse électronique ou un numéro de carte se reconnaissent souvent à leur structure. Un nom est plus ambigu. « Maria Torres » peut désigner l’utilisateur, une personnalité publique, un personnage fictif ou un simple exemple introduit par l’assistant. La chaîne de caractères reste identique, mais son statut change selon la conversation.

PII-Tracer analyse pour cette raison le texte qui entoure chaque élément au lieu d’appliquer uniquement une liste de formats prédéfinis. Il cherche également à retrouver les différentes occurrences associées à la même personne. Une adresse correctement masquée dans le premier message demeure exposée si elle réapparaît sans protection quinze échanges plus tard.

La plupart des benchmarks existants évaluent des documents autonomes : formulaires, dossiers, courriers, extraits juridiques ou enregistrements relativement courts. PII-TRACE adopte une contrainte plus proche d’un assistant conversationnel. Il conserve l’ordre des messages et relie les répétitions d’un même identifiant afin de vérifier si le détecteur les retrouve toutes.

Le jeu contient 13 148 conversations synthétiques réparties entre 13 langues et dix systèmes d’écriture. Il rassemble 37 431 mentions annotées caractère par caractère dans neuf catégories : noms de personnes privées, dates personnelles, adresses web ou IP, adresses physiques, numéros de compte ou d’identité, adresses électroniques, numéros de téléphone, secrets comme des mots de passe et une catégorie complémentaire pour les autres identifiants.

Parmi ces conversations, 5 645 contiennent des informations personnelles annotées et 7 503 n’en contiennent pas. Cette seconde partie permet de mesurer les fausses alertes, un point important pour un filtre qui ne doit pas considérer chaque nom, date ou suite de chiffres comme une donnée privée.

Un peu plus de 41 % des dialogues mêlent le texte à des éléments structurés comme du code ou des tableaux. Parmi ceux qui contiennent des informations personnelles, 63,8 % comportent au moins un identifiant répété et 28,7 % présentent une répétition répartie sur plusieurs tours de conversation.

PII-TRACE n’est pas constitué de conversations publiées telles qu’elles ont été envoyées au service. Sa structure provient d’un échantillon dédupliqué d’échanges réels issus d’un assistant en production, mais Perplexity indique avoir remplacé leur contenu identifiable avant la publication.

Plusieurs modèles ont d’abord servi à annoter neuf catégories d’informations. Les différentes occurrences d’un même élément ont ensuite été regroupées, puis remplacées par des marqueurs temporaires. Chaque message a été reformulé en conservant ces marqueurs, avant l’insertion de valeurs fictives cohérentes d’un échange à l’autre.

Des contrôles automatiques vérifient que les valeurs originales ne subsistent pas, que les occurrences liées utilisent bien le même remplacement et que les positions annotées correspondent au texte final. Les documents jugés douteux sont régénérés ou écartés. Une seconde vérification assistée repère les cas à examiner par l’équipe.

Cette méthode permet de publier des exemples conservant la dynamique d’une conversation sans diffuser les informations annotées provenant des échanges d’origine. Elle ne garantit pas pour autant que le corpus reproduise exactement les usages réels. Les reformulations, les valeurs fictives et les annotations produites par des modèles peuvent introduire leurs propres biais.

Le document scientifique mentionne également la présence connue de quelques noms personnels non annotés dans certains textes non anglophones. Perplexity indique qu’ils sont documentés dans la fiche du corpus. Les valeurs explicitement marquées ont été remplacées, mais cette réserve rappelle la difficulté d’établir qu’un ensemble dérivé de conversations réelles ne contient plus aucune information résiduelle.

PII-Tracer