O pricing é por token, semelhante à geração de texto mas tipicamente 10-100× mais barato. No Railwail, o OpenAI text-embedding-3-large custa 0,156 USD e o text-embedding-3-small 0,024 USD por milhão de tokens. As opções open-weights (Jina V3, BGE, MxBai) só custam computação na sua própria infraestrutura. Um corpus RAG típico de 10 milhões de tokens (cerca de 20.000 documentos) custa assim cerca de 1,56 USD (large) ou 0,24 USD (small) para fazer embedding uma vez. O re-embedding a cada upgrade de modelo é o principal custo a longo prazo.
O compromisso é dimensão, recall e preço. Embeddings de dimensão maior (3.072 ou 4.096 dim) captam mais nuance mas custam mais a armazenar e a pesquisar. Os modelos de dimensão menor (256-768 dim) custam dez vezes menos e ainda recuperam o documento certo 90-95% das vezes na maior parte das cargas. Use o flagship de dimensão alta quando a qualidade do retrieval for missão crítica (pesquisa jurídica, Q&A médica); use um modelo económico quando puder tolerar o resultado ocasional em falta.
Atenção ao tamanho dos chunks: a maior parte dos modelos de embeddings rende melhor em chunks de 200-500 tokens. Fazer embedding de um documento inteiro de 50 páginas como um único vetor faz perder o significado por secção. Fazer embedding demasiado pequeno (abaixo de 50 tokens) torna os chunks individuais ruidosos. Escolha um chunker que respeite as fronteiras de parágrafo e adicione uma pequena sobreposição (10-20%) entre chunks.
Atenção ao mismatch multilingue: nem todos os modelos de embeddings falam todas as línguas com a mesma competência. Se o corpus é multilingue, escolha um modelo cujos dados de treino cubram as suas línguas — Jina V3, Cohere Multilingual e Voyage Multilingual são os defaults seguros.
As top picks acima cobrem o flagship de maior recall, o modelo de produção mais barato, a opção de dimensão mais alta e o indexador mais rápido.