Die Preisgestaltung bei Textgenerierung erfolgt fast immer pro Token, aufgeteilt in eine günstigere Eingaberate und eine teurere Ausgaberate. Eine Million Input-Tokens entspricht rund 750.000 deutschen Wörtern — selbst sehr ausführliche Prompts treiben den Preis pro Aufruf also kaum über wenige Cent. Bei der Ausgabe wachsen die Rechnungen: agentische Schleifen, die sich selbst neu prompten, lange Berichte und nicht gecachte Few-Shot-Beispiele summieren sich schnell. Cache den System-Prompt, kürze den Verlauf konsequent und nutze JSON-Mode für strukturierte Aufgaben, um die Token-Zahl niedrig zu halten.
Das Trade-off-Dreieck heisst Qualität, Latenz und Kosten. Flagship-Modelle (GPT-5, Claude 4.6, Gemini 2.5) kosten das Zehn- bis Fünfzigfache der Budget-Stufen (Haiku, Flash, Mini) und antworten zwei- bis viermal langsamer, dafür reasonen sie tiefer, befolgen Anweisungen zuverlässiger und halluzinieren weniger. Für hochvolumige Klassifikation oder Extraktion ist ein Budget-Modell fast immer die richtige Wahl. Für Langtext-Analyse, Code-Review oder alles, was Endnutzer zu sehen bekommen, zahlt sich das Flagship meistens aus.
Achte auf Kontext-Verdünnung: Wenn du 200.000 Tokens in das Fenster stopfst, verteilt sich die Aufmerksamkeit des Modells zu dünn, und es beginnt, die Mitte des Prompts zu ignorieren — selbst bei Long-Context-Flagships. Hol dir die relevanten 8.000–16.000 Tokens lieber per Embedding statt das ganze Dokument hineinzuwerfen.