La tarificación en generación de texto es casi siempre por token, dividida en una tarifa de entrada más barata y una tarifa de salida más cara. Un millón de tokens de entrada equivale a unas 750 000 palabras en inglés, por lo que incluso prompts verbosos rara vez superan unos pocos céntimos por llamada. Es en la salida donde las facturas crecen: bucles agentivos que se vuelven a invocar, informes largos y ejemplos few-shot sin caché se acumulan rápidamente. Cachea el prompt de sistema, recorta el historial agresivamente y prefiere el modo JSON para tareas estructuradas para mantener bajos los recuentos de tokens.
El triángulo de compromiso es calidad, latencia y coste. Los modelos punteros (GPT-5, Claude 4.6, Gemini 2.5) cuestan de diez a cincuenta veces más que los niveles económicos (Haiku, Flash, Mini) y responden dos a cuatro veces más despacio, pero razonan más profundo, siguen instrucciones con mayor fiabilidad y alucinan menos. Para clasificación o extracción de alto volumen, un modelo económico es casi siempre la elección correcta. Para análisis de formato largo, revisión de código o cualquier cosa orientada al usuario, el modelo puntero normalmente se amortiza solo.
Cuidado con la dilución del contexto: cuando metes 200K tokens en la ventana, la atención del modelo se reparte y empieza a ignorar la parte central del prompt — incluso en los punteros de contexto largo. Recupera los 8 a 16K tokens relevantes con embeddings en lugar de pegar el documento entero.