Embeddings

Die Abrechnung läuft pro Token, ähnlich wie bei Textgenerierung, aber typischerweise 10–100× günstiger. Flagship-Modelle (OpenAI text-embedding-3-large, Voyage 3, Cohere Embed v3) kosten 0,05–0,15 € pro Million Tokens. Open-Weights-Optionen (Jina V3, BGE, MxBai) kosten auf eigener Infrastruktur faktisch nichts. Ein typischer RAG-Korpus von 10 Mio. Tokens (rund 20.000 Dokumente) kostet einmalige 0,50–1,50 € zum Embedden. Das Neu-Embedden bei jedem Modell-Upgrade ist der eigentliche Long-Tail-Kostenfaktor.

Der Trade-off heisst Dimension, Recall und Preis. Höherdimensionale Embeddings (3.072 oder 4.096 Dimensionen) erfassen mehr Nuance, kosten aber mehr beim Speichern und Suchen. Niedrigerdimensionale Modelle (256–768 Dimensionen) kosten zehnmal weniger und finden bei den meisten Workloads das richtige Dokument in 90–95 % der Fälle. Nimm das High-Dim-Flagship, wenn die Retrieval-Qualität geschäftskritisch ist (juristische Suche, medizinische Q&A); nimm ein Budget-Modell, wenn du den gelegentlichen verfehlten Treffer tolerieren kannst.

Achte auf die Chunk-Grösse: Die meisten Embedding-Modelle arbeiten am besten mit Chunks von 200–500 Tokens. Embeddest du ein ganzes 50-Seiten-Dokument als einen Vektor, verlierst du die Bedeutung pro Abschnitt. Embeddest du zu klein (unter 50 Tokens), werden einzelne Chunks verrauscht. Wähle einen Chunker, der Absatzgrenzen respektiert und eine kleine Überlappung (10–20 %) zwischen Chunks setzt.

Achte auf den mehrsprachigen Mismatch: Nicht jedes Embedding-Modell spricht jede Sprache gleich gut. Wenn dein Korpus mehrsprachig ist, wähle ein Modell, dessen Trainingsdaten deine Sprachen abdecken — Jina V3, Cohere Multilingual und Voyage Multilingual sind die sicheren Defaults.

Die Top-Picks oben decken das Recall-Flagship, das günstigste Produktiv-Modell, die höchstdimensionale Option und den schnellsten Indexer ab.