La tarification en génération de texte est presque toujours au token, avec un tarif d'entrée bas et un tarif de sortie plus élevé. Un million de tokens d'entrée représente environ 750 000 mots en anglais, si bien que même des prompts verbeux dépassent rarement quelques centimes par appel. C'est en sortie que les factures gonflent : boucles d'agents qui se relancent, rapports longs, exemples few-shot non mis en cache. Mettez en cache le prompt système, élaguez agressivement l'historique et privilégiez le mode JSON pour les tâches structurées afin de limiter le nombre de tokens.
Le triangle de compromis est qualité, latence, coût. Les modèles phares (GPT-5, Claude 4.6, Gemini 2.5) coûtent dix à cinquante fois plus que les tiers économiques (Haiku, Flash, Mini) et répondent deux à quatre fois plus lentement, mais leur raisonnement est plus profond, leur suivi d'instructions plus fiable et leurs hallucinations plus rares. Pour de la classification ou de l'extraction à fort volume, le modèle économique est presque toujours le bon choix. Pour de l'analyse longue, de la revue de code ou tout ce qui est visible par l'utilisateur final, le phare s'amortit généralement de lui-même.
Attention à la dilution du contexte : lorsque vous chargez 200 000 tokens dans la fenêtre, l'attention du modèle se dilue et il commence à ignorer le milieu du prompt — même sur les phares à long contexte. Récupérez les 8 à 16 000 tokens pertinents par embeddings plutôt que de coller l'intégralité du document.