Une réponse, ses preuves et tout ce qui manque entre les deux

Avec deux modèles open weights de 9B et 0,6B, Perplexity améliore la recherche contextuelle et introduit un benchmark fondé sur 71 100 pages web.

Une réponse peut être parfaitement exacte et pourtant impossible à vérifier si les informations qui la justifient restent dispersées dans un document. C'est cette limite des moteurs de recherche utilisés par les intelligences artificielles que Perplexity cherche à corriger avec pplx-embed-v2-context, une nouvelle famille de modèles d'embeddings conçus pour retrouver aussi bien les réponses que les passages nécessaires à leur compréhension.

Développés avec la contribution de chercheurs de turbopuffer, les deux modèles de 9 et 0,6 milliard de paramètres sont publiés en open weights. Leur particularité réside dans la manière dont ils représentent les documents : chaque passage reçoit une représentation numérique qui tient compte du contenu global, plutôt que de son seul texte. Une méthode détaillée dans l'étude Contextual Embeddings Beyond the Gold Chunk, consacrée aux limites des systèmes de recherche contextuelle. Une réponse peut dépendre de plusieurs passages

Dans un système de génération augmentée par la recherche (RAG), les documents sont généralement découpés en fragments, ou chunks, qui sont ensuite indexés pour retrouver les informations pertinentes à une question. Le problème apparaît lorsqu'un passage contient la réponse sans préciser à quoi elle se rapporte. Un montant de loyer, par exemple, peut être indiqué dans un contrat alors que l'adresse du logement figure plusieurs pages auparavant.

Les approches classiques privilégient souvent un passage de référence unique, appelé gold chunk. Cette méthode néglige les fragments complémentaires qui établissent le contexte, identifient une personne ou apportent une condition indispensable. Pire, ces passages peuvent être considérés comme non pertinents pendant l'entraînement, même lorsqu'ils contribuent à vérifier la réponse.

Pour dépasser cette restriction, les chercheurs ont réutilisé un système de compression contextuelle déjà employé dans le moteur de réponses de Perplexity. Celui-ci attribue des scores de pertinence aux éléments d'un document en fonction d'une requête. Ces indications servent ensuite à entraîner les modèles d'embeddings, qui apprennent à distinguer les passages contenant directement une réponse de ceux apportant des éléments justificatifs.

Le modèle de compression intervient uniquement pendant l'entraînement. Lors de la recherche, pplx-embed-v2-context produit directement ses représentations numériques, sans nécessiter cette étape supplémentaire. Les modèles peuvent fonctionner avec un seul vecteur par document ou avec un vecteur par fragment, chaque fragment conservant alors la connaissance du document entier. 71 100 pages pour tester la recherche et ses preuves

En parallèle des modèles, l'équipe introduit deux nouveaux benchmarks destinés à mesurer des capacités jusqu'ici peu prises en compte. Le premier, context-bench, confronte les systèmes à des documents très similaires pour vérifier s'ils peuvent retrouver la bonne réponse en tenant compte d'éléments dispersés dans le texte.

Le second, Q2D-Chunk, s'appuie sur des requêtes issues du trafic réel de Perplexity, reformulées pour constituer des questions autonomes. Il rassemble 6 069 requêtes initiales, déclinées en 11 719 formulations au total, et un corpus de 71 100 pages réparties en 9,17 millions de fragments de 128 tokens maximum. L'évaluation couvre dix langues et 26 domaines, avec des annotations distinguant les passages contenant les réponses et ceux nécessaires à leur vérification.

Cette distinction change la nature des mesures. Un moteur peut retrouver rapidement le bon document tout en négligeant les conditions qui rendent une réponse valable. Q2D-Chunk évalue donc séparément la récupération des réponses, celle des preuves et le volume de texte qu'il faut parcourir pour rassembler l'ensemble des informations attendues.

Sur ce benchmark, le modèle de 9 milliards de paramètres atteint 86,4 % en Answer@10, contre 83,9 % pour voyage-context-4 et 83,1 % pour la version Perplexity de 0,6 milliard. Pour couvrir l'ensemble des réponses et justificatifs attendus, son résultat médian s'établit à 1 954 tokens, contre 2 412 pour voyage-context-4. Le modèle de 9B arrive également en tête des comparaisons publiées sur context-bench et ConTEB.

Ces résultats proviennent de l'étude menée par les chercheurs et de leurs protocoles d'évaluation. Le corpus de Q2D-Chunk reste privé et les résultats sont calculés par l'équipe, même si un classement public est proposé. Les performances annoncées ne constituent donc pas une validation indépendante entièrement reproductible. Une recherche visuelle héritée d'un modèle entraîné sur du texte

Les capacités des nouveaux modèles ne se limitent pas aux documents textuels. Leur architecture s'appuie sur un modèle vision-langage capable de représenter des images et des documents visuels dans un espace de recherche commun.

Un détail retient particulièrement l'attention : la version 9B a été entraînée uniquement sur des données textuelles pour cette nouvelle étape, tout en conservant des capacités de recherche visuelle héritées de son architecture initiale. Les chercheurs ont également expérimenté le découpage des pages en plusieurs bandes horizontales, chacune disposant de sa propre représentation.

Sur le benchmark ViDoRe-V3, consacré à la recherche dans des documents visuels, le modèle 9B obtient 61,18 points en nDCG@10 avec des fragments de 128 tokens, contre 58,23 pour Nemotron-3-Embed-8B dans la comparaison publiée. Avec deux représentations de 1 024 dimensions par page, les chercheurs revendiquent également de meilleures performances que Nemotron-3.5-Embed-8B tout en utilisant un index quatre fois moins volumineux.

La version de 0,6 milliard de paramètres présente un autre intérêt : elle partage un espace de représentation compatible avec les 1 024 premières dimensions du modèle 9B. Il devient ainsi possible d'indexer des documents avec le modèle le plus volumineux et d'effectuer des recherches avec le plus léger, sans reconstruire intégralement