L’extraction de passages rejoint les modèles de décision de Perplexity

Les modèles Decider v1.3 de Perplexity ajoutent locate pour extraire des passages exacts, en complément de la classification et des scores probabilistes.

Les réponses des modèles de décision de Perplexity peuvent désormais désigner des passages précis dans le texte analysé. La fonction locate, ajoutée à Decider v1.3 et Decider Flash v1.3, renvoie les extraits sélectionnés, leurs positions de début et de fin, ainsi qu’un score associé. Une consigne peut demander un type d’information, comme un nom de personne, ou décrire plus précisément le passage recherché. En l’absence de correspondance identifiée, le résultat est une liste vide.

La mise à jour étend une famille de modèles conçue pour choisir et évaluer plutôt que rédiger une réponse libre. Une application fournit un contenu et des questions assorties d’options : décider si une recherche Web est nécessaire, classer un document ou attribuer un niveau selon une grille. Le résultat prend la forme de probabilités exploitables par le logiciel. Avec locate, la demande peut aussi porter sur les signataires d’un contrat, les compétences mentionnées dans une offre d’emploi ou des informations personnelles à repérer.

Le grand modèle est adapté de Qwen3.8-27B ; la version Flash utilise Qwen3.5-4B et apprend par distillation à reproduire les distributions de réponses du premier. Le fournisseur destine le grand modèle aux jugements nuancés et aux grilles détaillées, et Flash aux volumes élevés de tri et de routage. Cette distinction décrit un compromis de ressources et de qualité, sans garantir qu’un même choix soit préférable pour tous les contenus.

L’extraction ajoute un mécanisme distinct de celui des décisions ordinaires. L’équipe a entraîné une composante chargée d’identifier les débuts et fins des passages, avec des adaptateurs LoRA et un marqueur propre à locate. Les poids d’origine et la composante de classification restent gelés pendant cette étape. Comme fusionner ces adaptateurs dégradait certaines décisions, ils sont conservés séparément et activés pour les demandes d’extraction.

Le code et la fiche du modèle précisent les limites de cette fonction : elle nécessite un texte non vide, n’accepte pas d’images et traite au maximum 128 questions d’extraction par requête. Les capacités de classification visuelle ne s’étendent donc pas automatiquement à locate. Une demande peut réunir extraction et classification, mais l’implémentation publiée effectue des passages de calcul distincts pour ces deux traitements. Une requête unique ne signifie pas ici un seul passage dans le modèle.

Les poids et le code sont diffusés sous licence Apache 2.0. Le déploiement local reste une opération d’infrastructure : la fiche du grand modèle indique environ 49 Gio pour les seuls poids BF16, auxquels s’ajoute la mémoire de travail sur un GPU CUDA. L’accès passe aussi par la Decisions API et OpenRouter, qui affiche actuellement des variantes gratuites soumises à des limites d’usage.

Sur cette dernière plateforme, l’extraction utilise une route dédiée, encore en alpha. Les champs demandés remplacent les questions de classification, avec des réponses de type texte ou liste de textes. Le contrat d’appel diffère donc de celui des décisions oui/non, des choix multiples et des scores, même lorsque le modèle appelé est identique.

Pour mesurer locate, l’équipe a assemblé 17 tâches hors domaine couvrant des contrats, CV, documents structurés, rapports scientifiques et tickets d’assistance. Les évaluations de reconnaissance d’entités et d’informations personnelles exigent des limites d’extrait exactement conformes aux références. Les questions-réponses extractives accordent, elles, un crédit partiel au chevauchement des caractères. Les documents structurés sont évalués selon la proportion de champs correctement extraits.

Le score moyen annoncé atteint 69,0 pour le grand modèle et 63,6 pour Flash, contre 43,3 pour Liquid d1, 41,5 pour Clairic et 33,6 pour GLiNER large v2.5. Cette moyenne réunit les métriques principales de tâches différentes : elle ne correspond pas à un taux général de 69 % d’extractions correctes. La comparaison est menée par Perplexity et oppose des modèles de tailles différentes, dont une taille non communiquée pour Clairic.

Une autre étude interne porte sur un million de requêtes de production, soit plus de 2,3 millions de questions, collectées avec l’autorisation explicite des utilisateurs et après masquage des informations personnelles. Faute de réponses de référence vérifiées pour ce trafic, des modèles de langage produisent les réponses servant de comparaison. Le taux d’accord atteint 93,98 %, contre 93,68 % pour Decider v1.2. Ce résultat mesure l’accord avec ces juges, pas une exactitude établie par une annotation humaine.

Les probabilités nécessitent aussi un réglage adapté à l’application. La documentation recommande de calibrer les seuils sur des exemples représentatifs, car le coût d’un faux positif diffère entre modération, routage et filtrage documentaire. Un extrait reproduit fidèlement peut être mal sélectionné : retrouver des mots dans une source ne vérifie pas la véracité de ce qu’ils affirment.

Dans les usages internes décrits, le système évalue la qualité des pages collectées pour l’index, en repérant les pages d’erreur, les murs antibots ou les contenus jugés peu utiles. Un autre dispositif examine les journaux d’activité des agents pour trouver des incidents manqués par les règles de sécurité ou des alertes injustifiées. Les modifications proposées à ces règles restent soumises à l’approbation d’un membre de l’équipe de sécurité.