Il pricing è per token, simile alla generazione di testo ma tipicamente 10-100× più economico. Su Railwail OpenAI text-embedding-3-large costa 0,156 USD e text-embedding-3-small 0,024 USD per milione di token. Le opzioni open-weights (Jina V3, BGE, MxBai) costano solo il calcolo sulla propria infrastruttura. Un corpus RAG tipico di 10 milioni di token (circa 20.000 documenti) costa quindi circa 1,56 USD (large) o 0,24 USD (small) da embeddare una volta. Il ri-embedding a ogni upgrade del modello è il principale costo long-tail.
Il compromesso è dimensione, recall e prezzo. Embedding a dimensione più alta (3.072 o 4.096 dim) catturano più sfumature ma costano di più da memorizzare e cercare. I modelli a dimensione più bassa (256-768 dim) costano dieci volte meno e recuperano comunque il documento giusto il 90-95% delle volte nella maggior parte dei carichi di lavoro. Usate il flagship ad alta dimensione quando la qualità del retrieval è mission-critical (ricerca legale, Q&A medico); usate un modello economico quando potete tollerare il risultato mancato occasionale.
Attenzione alla dimensione dei chunk: la maggior parte dei modelli embedding rende meglio su chunk di 200-500 token. Embeddare un intero documento di 50 pagine come un singolo vettore fa perdere il significato per sezione. Embeddare troppo piccolo (sotto i 50 token) e i singoli chunk diventano rumorosi. Scegliete un chunker che rispetti i confini dei paragrafi e aggiunga una piccola sovrapposizione (10-20%) tra chunk.
Attenzione al mismatch multilingue: non tutti i modelli embedding parlano ogni lingua allo stesso modo. Se il vostro corpus è multilingue, scegliete un modello i cui dati di training coprano le vostre lingue — Jina V3, Cohere Multilingual e Voyage Multilingual sono i default sicuri.
Le top picks qui sopra coprono il flagship con il recall più alto, il modello di produzione più economico, l'opzione a dimensione più alta e l'indicizzatore più veloce.