O pricing na geração de texto é quase sempre por token, dividido numa tarifa de input mais económica e numa de output mais cara. Um milhão de tokens em input corresponde a cerca de 750.000 palavras em inglês, pelo que mesmo prompts verbosos raramente fazem subir o custo por chamada acima de uns cêntimos. É no output que as contas crescem: loops agênticos que se voltam a fazer prompts a si próprios, relatórios longos e exemplos few-shot sem cache acumulam-se rapidamente. Coloque o prompt de sistema em cache, recorte o histórico de forma agressiva e prefira o modo JSON para tarefas estruturadas para manter o número de tokens baixo.
O triângulo de compromissos é qualidade, latência e custo. Os modelos topo de gama (GPT-5, Claude 4.6, Gemini 2.5) custam dez a cinquenta vezes mais do que os tiers económicos (Haiku, Flash, Mini) e respondem duas a quatro vezes mais devagar, mas raciocinam em maior profundidade, seguem instruções de forma mais fiável e alucinam menos. Para classificação ou extração de grande volume, um modelo económico é quase sempre a escolha certa. Para análise longform, code review ou qualquer coisa virada ao utilizador final, o flagship normalmente paga-se a si próprio.
Atenção à diluição do contexto: quando enfiamos 200K tokens na janela, a atenção do modelo dispersa-se e começa a ignorar o meio do prompt — mesmo nos flagships de contexto longo. Recupere os 8-16K tokens relevantes com embeddings em vez de colar o documento inteiro.