Multimodale modellen

Modellen die naast tekst ook afbeeldingen, documenten of video begrijpen.

Beschikbaar
38van 69
Providers
6
Prijsklasse
US$ 0,00030 – US$ 0,1021per standaardrun

38 modellen

  • Nieuw

    Anthropic's April 2026 flagship. 87.6% on SWE-bench Verified, 3x higher image resolution, output self-verification, vision + reasoning.

    reasoningagenticvision

    Modaliteiten: Tekst, Afbeelding1 mln. context

    US$ 6,00/1M in

    US$ 30,00/1M uit

  • Nieuw

    Anthropic's balanced mid-tier model from February 2026. Best price/performance for production workloads: 5x cheaper than Opus, near-flagship quality.

    balancedproductionagentic

    Modaliteiten: Tekst, Afbeelding1 mln. context

    US$ 3,60/1M in

    US$ 18,00/1M uit

  • Gemini 3 Flash

    Google DeepMind

    Nieuw

    Google's April 2026 fast multimodal model. Combines Gemini 3 Pro's reasoning with Flash-tier latency and price. Default model in the Gemini app.

    balancedmultimodallow-latency

    Modaliteiten: Tekst, Afbeelding, Video, Audio1 mln. context

    US$ 0,60/1M in

    US$ 3,60/1M uit

  • Gemini 3.1 Pro

    Google DeepMind

    Nieuw

    Google DeepMind's February 2026 flagship. 1M-token (1,048,576) context, native multimodal (text/image/audio/video), Deep Think reasoning.

    multimodaldeep-thinklong-context

    Modaliteiten: Tekst, Afbeelding, Video, Audio1 mln. context

    US$ 2,40/1M in

    US$ 14,40/1M uit

  • GPT-5.4

    OpenAI

    Nieuw

    OpenAI's unified flagship combining GPT and o-series reasoning into one model. 1M context, multimodal, top SWE-Bench Pro and OSWorld scores.

    reasoningagenticvision

    Modaliteiten: Tekst, Afbeelding1,1 mln. context

    US$ 3,00/1M in

    US$ 18,00/1M uit

  • Nieuw

    OpenAI's efficient mid-tier model. 2x faster than its predecessor, 400k context, approaches GPT-5.4 quality on SWE-Bench Pro at a fraction of the cost.

    balancedcost-efficientvision

    Modaliteiten: Tekst, Afbeelding400K context

    US$ 0,90/1M in

    US$ 5,40/1M uit

  • BLIP

    Salesforce

    Salesforce BLIP. Vision-language model for image captioning and visual question answering. Given an image it writes a short natural-language caption, or answers a question about the image when one is supplied. A widely used baseline for automatic captioning.

    blipcaptioningvqa

    Modaliteiten: Tekst, Afbeelding

    ≈ US$ 0,00030/uitvoering

  • pharmapsychotic's CLIP Interrogator. Takes an image and produces a Stable-Diffusion-style text prompt by combining BLIP captioning with CLIP to rank likely subjects, artists, mediums and styles. Commonly used to reverse-engineer a prompt from an existing picture.

    clip-interrogatorcaptioningtagging

    Modaliteiten: Tekst, Afbeelding

    ≈ US$ 0,0457/uitvoering

  • Monocular depth-estimation model trained on 595k labeled and 62M unlabeled images. Strong zero-shot generalization in indoor and outdoor scenes.

    depthvision-understandingopen-weights

    Modaliteiten: Tekst, Afbeelding

    ≈ US$ 0,0050/uitvoering

  • Meta Segment Anything 2. Promptable segmentation across images and video with temporal memory. Zero-shot, point/box/mask prompts, fast on a single H100.

    segmentationvision-understandingopen-weights

    Modaliteiten: Tekst, Afbeelding, Video

    ≈ US$ 0,018/uitvoering

  • Nieuw

    Anthropic's fastest and cheapest 4.x model. Strong vision and tool use at ultra-low latency, ideal for high-concurrency workloads.

    cost-efficientlow-latencyvision

    Modaliteiten: Tekst, Afbeelding200K context

    US$ 1,20/1M in

    US$ 6,00/1M uit

  • Nieuw

    OpenAI's smallest and cheapest GPT-5.4 variant. Built for high-volume classification, extraction and coding subagents at edge-grade latency.

    cost-efficientlow-latencyvision

    Modaliteiten: Tekst, Afbeelding400K context

    US$ 0,24/1M in

    US$ 1,50/1M uit

  • CogVLM2 19B

    Community

    Tsinghua CogVLM2 19B with Llama-3 8B base plus 11B vision expert. Strong document understanding and visual reasoning, 8k context.

    multimodalvision-understandingtsinghua

    Modaliteiten: Tekst, Afbeelding8,2K context

    ≈ US$ 0,0114/uitvoering

  • DeepSeek-VL 7B chat model. Vision-language model with hybrid vision encoder and strong real-world visual question answering performance.

    multimodalvision-understandingopen-weights

    Modaliteiten: Tekst, Afbeelding4,1K context

    ≈ US$ 0,0086/uitvoering

  • Naver CLOVA Donut OCR-free document-understanding transformer. End-to-end JSON extraction from forms, receipts and invoices without explicit OCR.

    ocrvision-understandingnaver

    Modaliteiten: Tekst, Afbeelding

    ≈ US$ 0,0648/uitvoering

  • Dots OCR

    Community

    Rednote Hilab Dots OCR. End-to-end document parsing model with layout, text and reading-order prediction in one transformer.

    ocrvision-understandingopen-source

    Modaliteiten: Tekst, Afbeelding

    ≈ US$ 0,0132/uitvoering

  • EasyOCR

    Community

    JaidedAI EasyOCR. Simple Python OCR wrapper supporting 80+ languages with deep-learning text detection and recognition.

    ocrvision-understandingmultilingual

    Modaliteiten: Tekst, Afbeelding

    ≈ US$ 0,0014/uitvoering

  • Microsoft Florence-2 Large. Unified prompt-based vision foundation model for captioning, detection, segmentation and OCR with a single 770M-param backbone.

    multimodalvision-understandingmicrosoft

    Modaliteiten: Tekst, Afbeelding

    ≈ US$ 0,0012/uitvoering

  • GLPN Depth

    Community

    Global-Local Path Networks depth-estimation model. Combines hierarchical transformer encoder with selective feature fusion for sharp boundaries.

    depthvision-understandingopen-source

    Modaliteiten: Tekst, Afbeelding

    ≈ US$ 0,0094/uitvoering

  • GOT-OCR 2.0

    Community

    StepFun GOT-OCR 2.0. Unified end-to-end OCR-2.0 model handling text, formulas, charts, sheet music and geometric shapes in one architecture.

    ocrvision-understandingstepfun

    Modaliteiten: Tekst, Afbeelding

    ≈ US$ 0,0012/uitvoering

  • Grounded-SAM

    Community

    Grounding DINO plus SAM. Open-vocabulary text-prompted detection and segmentation in one pipeline for fully-automatic mask generation.

    segmentationvision-understandingopen-vocabulary

    Modaliteiten: Tekst, Afbeelding

    ≈ US$ 0,0015/uitvoering

  • Idefics3 8B

    Community

    Hugging Face Idefics3 8B. Llama-3 based open-source vision-language model with strong document QA and chart-understanding performance.

    multimodalvision-understandingopen-weights

    Modaliteiten: Tekst, Afbeelding8,2K context

    ≈ US$ 0,0012/uitvoering

  • Meta Llama 3.2 11B Vision served via Ollama on Replicate. Open-weights multimodal model for image captioning, document and chart reading, and visual question answering.

    metallamavision-understanding

    Modaliteiten: Tekst, Afbeelding

    ≈ US$ 0,0039/uitvoering

  • Meta Llama 3.2 90B Vision. Largest open-weights Llama vision model. Strong visual reasoning, chart, OCR and document understanding.

    multimodalvision-understandingmeta

    Modaliteiten: Tekst, Afbeelding131,1K context

    ≈ US$ 0,0070/uitvoering

  • LLaVA 1.6 (LLaVA-NeXT) with a Vicuna-13B language backbone. Open vision-language chat model that describes images, answers questions, reads charts and reasons about scenes. Version 1.6 adds higher input resolution and better OCR and reasoning than LLaVA 1.5.

    llavacaptioningvqa

    Modaliteiten: Tekst, Afbeelding4,1K context

    ≈ US$ 0,1021/uitvoering

  • Lotus-G

    Community

    Lotus generative depth model. Treats depth as a generation task using a diffusion model, producing higher-fidelity depth on textured surfaces.

    depthvision-understandingdiffusion

    Modaliteiten: Tekst, Afbeelding

    ≈ US$ 0,0408/uitvoering

  • Marigold

    Community

    ETH Zurich Marigold. Diffusion-based monocular depth-estimation model fine-tuned from Stable Diffusion with strong fine-detail recovery.

    depthvision-understandingdiffusion

    Modaliteiten: Tekst, Afbeelding

    ≈ US$ 0,0936/uitvoering

  • Meta Mask2Former universal image-segmentation transformer. Single architecture for panoptic, instance and semantic segmentation tasks.

    segmentationvision-understandingtransformer

    Modaliteiten: Tekst, Afbeelding

    ≈ US$ 0,0276/uitvoering

  • MiDaS v3.1

    Community

    Intel MiDaS v3.1 relative depth-estimation model. Robust zero-shot single-image depth across diverse domains and resolutions.

    depthvision-understandingintel

    Modaliteiten: Tekst, Afbeelding

    ≈ US$ 0,00030/uitvoering

  • MiniCPM-V 2.6

    Community

    OpenBMB MiniCPM-V 2.6. 8B vision-language model with strong single-image, multi-image and video understanding plus OCR capabilities.

    multimodalvision-understandingopen-weights

    Modaliteiten: Tekst, Afbeelding, Video32,8K context

    ≈ US$ 0,0015/uitvoering

  • Molmo 7B

    Community

    Allen AI Molmo 7B-D on Replicate. Open vision-language model trained on the PixMo data, notable for pointing at and locating objects in images, not just describing them.

    allenaimolmovision-understanding

    Modaliteiten: Tekst, Afbeelding

    ≈ US$ 0,0505/uitvoering

  • Moondream2

    Community

    Moondream2 small vision-language model on Replicate. About 1.9B params, designed to run on edge devices, handles captioning, visual QA and short OCR-style reads at very low cost.

    moondreamvision-understandingopen-source

    Modaliteiten: Tekst, Afbeelding

    ≈ US$ 0,0020/uitvoering

  • olmOCR

    Community

    Allen AI olmOCR. Open-source 7B vision-language model fine-tuned for high-fidelity document parsing including math, code and tables.

    ocrvision-understandingallenai

    Modaliteiten: Tekst, Afbeelding

    ≈ US$ 0,0205/uitvoering

  • OpenPose

    Community

    CMU OpenPose multi-person 2D pose estimator. Real-time keypoint detection for body, hand, face and foot using Part Affinity Fields.

    posevision-understandingcmu

    Modaliteiten: Tekst, Afbeelding, Video

    ≈ US$ 0,0012/uitvoering

  • PaddleOCR v3

    Community

    Baidu PaddleOCR v3 PP-OCR pipeline. Lightweight detector plus recognizer optimized for production use with 80+ language support.

    ocrvision-understandingbaidu

    Modaliteiten: Tekst, Afbeelding

    ≈ US$ 0,0216/uitvoering

  • Alibaba Qwen2-VL 7B served on Replicate. Open-weights vision-language model that chats about images and video, with dynamic resolution and strong OCR and document QA for its size.

    qwenalibabavision-understanding

    Modaliteiten: Tekst, Afbeelding, Video

    ≈ US$ 0,0024/uitvoering

  • Segformer B5

    Community

    NVIDIA SegFormer-B5 semantic segmentation. Hierarchical transformer encoder with lightweight MLP decoder, strong ADE20k and Cityscapes results.

    segmentationvision-understandingnvidia

    Modaliteiten: Tekst, Afbeelding

    ≈ US$ 0,00030/uitvoering

  • ZoeDepth

    Community

    Intel ZoeDepth metric depth-estimation model. Combines relative-depth pretraining with metric fine-tuning for absolute distance in real units.

    depthvision-understandingintel

    Modaliteiten: Tekst, Afbeelding

    ≈ US$ 0,00060/uitvoering

29 modellen momenteel niet beschikbaar

Hun pagina's blijven online, maar de modellen kunnen momenteel niet worden uitgevoerd.

Multimodale modellen voor vision, OCR en document understanding

Multimodale modellen accepteren tekst plus afbeeldingen (soms plus audio of video) en produceren tekst als output. Pak er een wanneer je input afbeeldingen bevat en je output gestructureerde informatie is: een factuur extraheren, een grafiek beschrijven, een handgeschreven notitie transcriberen, vragen beantwoorden over een UI-screenshot.

Prijzen, afwegingen en valkuilen

De prijs is per token zoals bij gewone LLM's, met één kanttekening: elk beeld wordt geteld als een vast aantal tokens — meestal 250-1.500 tokens afhankelijk van resolutie en detail-modus. Een standaardbeeld van 1024×1024 kost ruwweg evenveel als een tekstinput van 1.000 woorden. High-detail-modus (waarbij fijn tekst en kleine UI-elementen behouden blijven) kost 2-4× zoveel. Plan budgetten dienovereenkomstig — een workload die per dag duizenden bonnetjes scant loopt op flagshiptarieven snel op; vermenigvuldig de tokenprijs op de modelpagina met je aantal beeldtokens.

De afweging is OCR-nauwkeurigheid, redeneerkwaliteit en kosten. Flagships (GPT-5 Vision, Claude 4.6, Gemini 2.5) lezen complexe layouts en redeneren zeer betrouwbaar over grafiek-inhoud. Gespecialiseerde OCR-first-modellen (Qwen 2.5 VL, Pixtral, InternVL) presteren soms beter op puur tekst-extractie tegen een fractie van de kost. Voor pure document-naar-JSON-pipelines wint meestal een gespecialiseerd model met een strak JSON-schema. Voor document-en-redeneren-workloads ('haal deze factuur op EN vertel me of de btw klopt') winnen de flagships.

Pas op met resolutielimieten: de meeste modellen schalen heel grote afbeeldingen omlaag voor verwerking, wat fijn tekst in screenshots en dichte documenten kan vernielen. Pre-process — snijd hoge documenten in single-page-afbeeldingen, upscale low-res scans voor versturen — om leesbaarheid te behouden. Pas ook op met hallucinaties op moeilijk leesbare regio's; multimodale modellen verzinnen met overtuiging tekst waar de bron onleesbaar is.

De topkeuzes hierboven dekken het meest accurate flagship, het goedkoopste werkpaard, de optie die de hoogste resolutie ondersteunt en de snelste streaming-optie.

Typische taken

  • Factuur- en bonnetjesextractie
  • Document-OCR en structurering
  • UI-screenshotanalyse
  • Grafieken en diagrammen lezen
  • Annotatie van medische en wetenschappelijke beelden
  • Visual QA voor toegankelijkheid

Veelgestelde vragen

Welk multimodaal model leest documenten het best?

GPT-5 Vision en Claude 4.6 leiden op complexe layouts, grafieken en handschrift. Voor pure OCR op schone documenten evenaren Qwen 2.5 VL en Pixtral vaak de flagshipkwaliteit tegen een tiende van de kost. Draai een sample van je eigen documenten op elk voordat je je vastlegt.

Hoe wordt de prijs voor afbeeldingen berekend?

Elke afbeelding wordt omgezet in een vast aantal tokens — meestal 250-1.500 tokens afhankelijk van resolutie en detail-modus. Een 1024×1024-beeld kost dus ongeveer evenveel als ~1.000 tekst-tokens. Multi-page-documenten vermenigvuldigen lineair; controleer elke modelkaart voor de exacte image-token-tarieven.

Welke beeldformaten worden geaccepteerd?

JPEG, PNG, WebP en GIF (eerste frame) zijn universeel. Sommige modellen accepteren ook PDF rechtstreeks (één beeld per pagina). De maximale bestandsgrootte is doorgaans 20 MB; maximale afmetingen 8K aan een zijde. Resize grotere bestanden vooraf om stille downscaling te vermijden.

Kan het handschrift lezen?

Flagships verwerken duidelijk handschrift betrouwbaar en de meeste cursieve schriften in de grote talen. De kwaliteit daalt bij sterk gestileerd schrift, vervaagde inkt en complexe steno. Voor hoogvolume-handschrift-workloads fine-tune je op een sample van je domein of combineer je met een gespecialiseerde OCR-preprocessor.

Kan het grafieken en diagrammen begrijpen?

Ja — het lezen van grafieken is een van de sterkste use-cases. Flagships halen datapunten uit staaf-, lijn- en cirkeldiagrammen; ze redeneren over assenschalen en identificeren trends. Voor dichte wetenschappelijke figuren vraag je om gestructureerde output (CSV of JSON) in plaats van een narratieve beschrijving.

Hoe gaat het om met scans van slechte kwaliteit?

De kwaliteit daalt sterk onder 150 DPI of boven 30% ruis. Pre-process met deskewing, contrastnormalisatie en lichte denoising. Voor zeer slechte scans laat je eerst een upscaler (uit /models/image) draaien om de leesbaarheid te herstellen voor verzenden.

Kan ik meerdere afbeeldingen in één request meesturen?

Ja — de meeste flagships accepteren 10-20 afbeeldingen in één prompt. Handig om screenshots te vergelijken, multi-page-documenten in één keer te verwerken of reeksen frames te analyseren. Het totale tokenaantal (inclusief alle image-tokens) moet in het contextvenster passen.

Wordt video frame-by-frame ondersteund?

Sommige multimodale modellen (Gemini 2.5 Pro, Qwen 2.5 VL) accepteren video rechtstreeks en bemonsteren frames intern. Bij anderen extraheer je zelf frames (elke 1-2 seconden is typisch) en stuur je ze als multi-image-prompt mee. Voor realtime video-analyse kijk je naar toegewijde video-understanding-modellen.

Aan de slag met één API

Elk beschikbaar model via één OpenAI-compatibele API. Prepaid credits in USD, geen abonnement.