Embeddings

Cennik jest za token, podobnie jak w generowaniu tekstu, ale zwykle 10-100× tańszy. Modele flagship (OpenAI text-embedding-3-large, Voyage 3, Cohere Embed v3) kosztują €0,05-€0,15 za milion tokenów. Opcje open-weights (Jina V3, BGE, MxBai) kosztują praktycznie nic do uruchomienia na własnej infrastrukturze. Typowy korpus RAG 10 milionów tokenów (około 20 000 dokumentów) kosztuje €0,50-€1,50, by raz go embedować. Re-embedding przy każdej aktualizacji modelu to główny koszt long-tail.

Kompromis to wymiar, recall i cena. Wyższe wymiarowo embeddingi (3 072 lub 4 096 dim) łapią więcej niuansów, ale kosztują więcej w przechowywaniu i przeszukiwaniu. Modele niższych wymiarów (256-768 dim) kosztują dziesięć razy mniej i wciąż wyłapują właściwy dokument w 90-95% przypadków w większości obciążeń. Używaj wysokowymiarowego flagshipa, gdy jakość retrievalu jest krytyczna (wyszukiwanie prawne, medyczne Q&A); używaj modelu budżetowego, gdy możesz tolerować okazjonalne pominięcie.

Uwaga na rozmiar chunków: większość modeli embeddingowych pracuje najlepiej na chunkach 200-500 tokenów. Embedowanie 50-stronicowego dokumentu jako jednego wektora gubi znaczenie sekcyjne. Embedowanie zbyt drobno (poniżej 50 tokenów) sprawia, że pojedyncze chunki stają się zaszumione. Wybierz chunker, który szanuje granice akapitów i dodaje niewielkie zachodzenie (10-20%) między chunkami.

Uwaga na niedopasowanie wielojęzyczne: nie każdy model embeddingowy mówi tak samo w każdym języku. Jeśli twój korpus jest wielojęzyczny, wybierz model, którego dane treningowe pokrywają twoje języki — Jina V3, Cohere Multilingual i Voyage Multilingual to bezpieczne defaulty.

Top picks powyżej obejmują flagship o najwyższym recallu, najtańszy model produkcyjny, opcję o najwyższych wymiarach i najszybszy indeksator.