Un modèle fort planifie, un modèle bon marché exécute le gros du travail

Anthropic documente deux façons de réduire le coût des agents en associant un modèle capable à un modèle plus léger, la majeure partie de la génération étant facturée au tarif du second.

La première passe par l'advisor tool, une fonction d'API en bêta. Un modèle exécuteur, plus rapide et moins cher, consulte en cours de génération un modèle conseiller plus capable : celui-ci lit toute la conversation, renvoie un plan ou une correction de cap, puis l'exécuteur reprend la main. L'échange se fait côté serveur dans une seule requête, l'exécuteur choisissant le moment de l'appel et le serveur fournissant le contexte. Le conseiller travaille sans outils et ne renvoie que son texte de conseil. L'économie tient à ce qu'il ne produit pas la sortie finale : c'est l'exécuteur qui s'en charge, à son tarif plus bas.

La seconde relève de l'orchestration multi-agents, via les Claude Managed Agents. Un modèle coordinateur planifie puis délègue à des sous-agents ouvriers, chacun opérant dans un fil au contexte isolé. Sur une tâche de recherche web, les ouvriers absorbent la lecture des pages, gourmande en tokens, et ne remontent au coordinateur que des synthèses : les pages parcourues n'entrent jamais dans son contexte. Là encore, le gros du volume est facturé au tarif des ouvriers.

Les deux approches partent du même constat : un agent mêle une petite part de planification et de jugement à une grande part de lecture et d'exécution mécaniques, qu'on peut aiguiller vers le modèle adéquat. L'advisor tool comme les Claude Managed Agents restent en bêta sur l'API.