Multimodale Modelle

Modelle, die neben Text auch Bilder, Dokumente oder Video verstehen.

Verfügbar
38von 69
Anbieter
6
Preisspanne
$ 0,00030 – $ 0,1021pro Standardlauf

38 Modelle

  • Neu

    Anthropic's April 2026 flagship. 87.6% on SWE-bench Verified, 3x higher image resolution, output self-verification, vision + reasoning.

    reasoningagenticvision

    Modalitäten: Text, Bild1 Mio. Kontext

    $ 6,00/1 Mio. In

    $ 30,00/1 Mio. Out

  • Neu

    Anthropic's balanced mid-tier model from February 2026. Best price/performance for production workloads: 5x cheaper than Opus, near-flagship quality.

    balancedproductionagentic

    Modalitäten: Text, Bild1 Mio. Kontext

    $ 3,60/1 Mio. In

    $ 18,00/1 Mio. Out

  • Gemini 3 Flash

    Google DeepMind

    Neu

    Google's April 2026 fast multimodal model. Combines Gemini 3 Pro's reasoning with Flash-tier latency and price. Default model in the Gemini app.

    balancedmultimodallow-latency

    Modalitäten: Text, Bild, Video, Audio1 Mio. Kontext

    $ 0,60/1 Mio. In

    $ 3,60/1 Mio. Out

  • Gemini 3.1 Pro

    Google DeepMind

    Neu

    Google DeepMind's February 2026 flagship. 1M-token (1,048,576) context, native multimodal (text/image/audio/video), Deep Think reasoning.

    multimodaldeep-thinklong-context

    Modalitäten: Text, Bild, Video, Audio1 Mio. Kontext

    $ 2,40/1 Mio. In

    $ 14,40/1 Mio. Out

  • GPT-5.4

    OpenAI

    Neu

    OpenAI's unified flagship combining GPT and o-series reasoning into one model. 1M context, multimodal, top SWE-Bench Pro and OSWorld scores.

    reasoningagenticvision

    Modalitäten: Text, Bild1,1 Mio. Kontext

    $ 3,00/1 Mio. In

    $ 18,00/1 Mio. Out

  • Neu

    OpenAI's efficient mid-tier model. 2x faster than its predecessor, 400k context, approaches GPT-5.4 quality on SWE-Bench Pro at a fraction of the cost.

    balancedcost-efficientvision

    Modalitäten: Text, Bild400 000 Kontext

    $ 0,90/1 Mio. In

    $ 5,40/1 Mio. Out

  • BLIP

    Salesforce

    Salesforce BLIP. Vision-language model for image captioning and visual question answering. Given an image it writes a short natural-language caption, or answers a question about the image when one is supplied. A widely used baseline for automatic captioning.

    blipcaptioningvqa

    Modalitäten: Text, Bild

    ca. $ 0,00030/Lauf

  • pharmapsychotic's CLIP Interrogator. Takes an image and produces a Stable-Diffusion-style text prompt by combining BLIP captioning with CLIP to rank likely subjects, artists, mediums and styles. Commonly used to reverse-engineer a prompt from an existing picture.

    clip-interrogatorcaptioningtagging

    Modalitäten: Text, Bild

    ca. $ 0,0457/Lauf

  • Monocular depth-estimation model trained on 595k labeled and 62M unlabeled images. Strong zero-shot generalization in indoor and outdoor scenes.

    depthvision-understandingopen-weights

    Modalitäten: Text, Bild

    ca. $ 0,0050/Lauf

  • Meta Segment Anything 2. Promptable segmentation across images and video with temporal memory. Zero-shot, point/box/mask prompts, fast on a single H100.

    segmentationvision-understandingopen-weights

    Modalitäten: Text, Bild, Video

    ca. $ 0,018/Lauf

  • Neu

    Anthropic's fastest and cheapest 4.x model. Strong vision and tool use at ultra-low latency, ideal for high-concurrency workloads.

    cost-efficientlow-latencyvision

    Modalitäten: Text, Bild200 000 Kontext

    $ 1,20/1 Mio. In

    $ 6,00/1 Mio. Out

  • Neu

    OpenAI's smallest and cheapest GPT-5.4 variant. Built for high-volume classification, extraction and coding subagents at edge-grade latency.

    cost-efficientlow-latencyvision

    Modalitäten: Text, Bild400 000 Kontext

    $ 0,24/1 Mio. In

    $ 1,50/1 Mio. Out

  • CogVLM2 19B

    Community

    Tsinghua CogVLM2 19B with Llama-3 8B base plus 11B vision expert. Strong document understanding and visual reasoning, 8k context.

    multimodalvision-understandingtsinghua

    Modalitäten: Text, Bild8192 Kontext

    ca. $ 0,0114/Lauf

  • DeepSeek-VL 7B chat model. Vision-language model with hybrid vision encoder and strong real-world visual question answering performance.

    multimodalvision-understandingopen-weights

    Modalitäten: Text, Bild4096 Kontext

    ca. $ 0,0086/Lauf

  • Naver CLOVA Donut OCR-free document-understanding transformer. End-to-end JSON extraction from forms, receipts and invoices without explicit OCR.

    ocrvision-understandingnaver

    Modalitäten: Text, Bild

    ca. $ 0,0648/Lauf

  • Dots OCR

    Community

    Rednote Hilab Dots OCR. End-to-end document parsing model with layout, text and reading-order prediction in one transformer.

    ocrvision-understandingopen-source

    Modalitäten: Text, Bild

    ca. $ 0,0132/Lauf

  • EasyOCR

    Community

    JaidedAI EasyOCR. Simple Python OCR wrapper supporting 80+ languages with deep-learning text detection and recognition.

    ocrvision-understandingmultilingual

    Modalitäten: Text, Bild

    ca. $ 0,0014/Lauf

  • Microsoft Florence-2 Large. Unified prompt-based vision foundation model for captioning, detection, segmentation and OCR with a single 770M-param backbone.

    multimodalvision-understandingmicrosoft

    Modalitäten: Text, Bild

    ca. $ 0,0012/Lauf

  • GLPN Depth

    Community

    Global-Local Path Networks depth-estimation model. Combines hierarchical transformer encoder with selective feature fusion for sharp boundaries.

    depthvision-understandingopen-source

    Modalitäten: Text, Bild

    ca. $ 0,0094/Lauf

  • GOT-OCR 2.0

    Community

    StepFun GOT-OCR 2.0. Unified end-to-end OCR-2.0 model handling text, formulas, charts, sheet music and geometric shapes in one architecture.

    ocrvision-understandingstepfun

    Modalitäten: Text, Bild

    ca. $ 0,0012/Lauf

  • Grounded-SAM

    Community

    Grounding DINO plus SAM. Open-vocabulary text-prompted detection and segmentation in one pipeline for fully-automatic mask generation.

    segmentationvision-understandingopen-vocabulary

    Modalitäten: Text, Bild

    ca. $ 0,0015/Lauf

  • Idefics3 8B

    Community

    Hugging Face Idefics3 8B. Llama-3 based open-source vision-language model with strong document QA and chart-understanding performance.

    multimodalvision-understandingopen-weights

    Modalitäten: Text, Bild8192 Kontext

    ca. $ 0,0012/Lauf

  • Meta Llama 3.2 11B Vision served via Ollama on Replicate. Open-weights multimodal model for image captioning, document and chart reading, and visual question answering.

    metallamavision-understanding

    Modalitäten: Text, Bild

    ca. $ 0,0039/Lauf

  • Meta Llama 3.2 90B Vision. Largest open-weights Llama vision model. Strong visual reasoning, chart, OCR and document understanding.

    multimodalvision-understandingmeta

    Modalitäten: Text, Bild131 072 Kontext

    ca. $ 0,0070/Lauf

  • LLaVA 1.6 (LLaVA-NeXT) with a Vicuna-13B language backbone. Open vision-language chat model that describes images, answers questions, reads charts and reasons about scenes. Version 1.6 adds higher input resolution and better OCR and reasoning than LLaVA 1.5.

    llavacaptioningvqa

    Modalitäten: Text, Bild4096 Kontext

    ca. $ 0,1021/Lauf

  • Lotus-G

    Community

    Lotus generative depth model. Treats depth as a generation task using a diffusion model, producing higher-fidelity depth on textured surfaces.

    depthvision-understandingdiffusion

    Modalitäten: Text, Bild

    ca. $ 0,0408/Lauf

  • Marigold

    Community

    ETH Zurich Marigold. Diffusion-based monocular depth-estimation model fine-tuned from Stable Diffusion with strong fine-detail recovery.

    depthvision-understandingdiffusion

    Modalitäten: Text, Bild

    ca. $ 0,0936/Lauf

  • Meta Mask2Former universal image-segmentation transformer. Single architecture for panoptic, instance and semantic segmentation tasks.

    segmentationvision-understandingtransformer

    Modalitäten: Text, Bild

    ca. $ 0,0276/Lauf

  • MiDaS v3.1

    Community

    Intel MiDaS v3.1 relative depth-estimation model. Robust zero-shot single-image depth across diverse domains and resolutions.

    depthvision-understandingintel

    Modalitäten: Text, Bild

    ca. $ 0,00030/Lauf

  • MiniCPM-V 2.6

    Community

    OpenBMB MiniCPM-V 2.6. 8B vision-language model with strong single-image, multi-image and video understanding plus OCR capabilities.

    multimodalvision-understandingopen-weights

    Modalitäten: Text, Bild, Video32 768 Kontext

    ca. $ 0,0015/Lauf

  • Molmo 7B

    Community

    Allen AI Molmo 7B-D on Replicate. Open vision-language model trained on the PixMo data, notable for pointing at and locating objects in images, not just describing them.

    allenaimolmovision-understanding

    Modalitäten: Text, Bild

    ca. $ 0,0505/Lauf

  • Moondream2

    Community

    Moondream2 small vision-language model on Replicate. About 1.9B params, designed to run on edge devices, handles captioning, visual QA and short OCR-style reads at very low cost.

    moondreamvision-understandingopen-source

    Modalitäten: Text, Bild

    ca. $ 0,0020/Lauf

  • olmOCR

    Community

    Allen AI olmOCR. Open-source 7B vision-language model fine-tuned for high-fidelity document parsing including math, code and tables.

    ocrvision-understandingallenai

    Modalitäten: Text, Bild

    ca. $ 0,0205/Lauf

  • OpenPose

    Community

    CMU OpenPose multi-person 2D pose estimator. Real-time keypoint detection for body, hand, face and foot using Part Affinity Fields.

    posevision-understandingcmu

    Modalitäten: Text, Bild, Video

    ca. $ 0,0012/Lauf

  • PaddleOCR v3

    Community

    Baidu PaddleOCR v3 PP-OCR pipeline. Lightweight detector plus recognizer optimized for production use with 80+ language support.

    ocrvision-understandingbaidu

    Modalitäten: Text, Bild

    ca. $ 0,0216/Lauf

  • Alibaba Qwen2-VL 7B served on Replicate. Open-weights vision-language model that chats about images and video, with dynamic resolution and strong OCR and document QA for its size.

    qwenalibabavision-understanding

    Modalitäten: Text, Bild, Video

    ca. $ 0,0024/Lauf

  • Segformer B5

    Community

    NVIDIA SegFormer-B5 semantic segmentation. Hierarchical transformer encoder with lightweight MLP decoder, strong ADE20k and Cityscapes results.

    segmentationvision-understandingnvidia

    Modalitäten: Text, Bild

    ca. $ 0,00030/Lauf

  • ZoeDepth

    Community

    Intel ZoeDepth metric depth-estimation model. Combines relative-depth pretraining with metric fine-tuning for absolute distance in real units.

    depthvision-understandingintel

    Modalitäten: Text, Bild

    ca. $ 0,00060/Lauf

29 Modelle derzeit nicht verfügbar

Die Seiten bleiben erreichbar, die Modelle lassen sich aber gerade nicht ausführen.

Multimodale Modelle für Vision, OCR und Dokumentenverständnis

Multimodale Modelle akzeptieren Text plus Bilder (manchmal plus Audio oder Video) und produzieren Text-Output. Du greifst zu einem, wenn dein Input Bilder enthält und dein Output strukturierte Information ist: eine Rechnung extrahieren, ein Diagramm beschreiben, eine handschriftliche Notiz transkribieren, Fragen zu einem UI-Screenshot beantworten.

Preise, Abwägungen und Stolperfallen

Die Abrechnung erfolgt pro Token wie bei regulären LLMs, mit einer Wendung: Jedes Bild wird als feste Token-Zahl gezählt — typischerweise 250–1.500 Tokens, je nach Auflösung und Detail-Modus. Ein Standard-1024×1024-Bild kostet ungefähr so viel wie ein 1.000-Wort-Text-Input. High-Detail-Modus (für feinen Text und kleine UI-Elemente) kostet 2–4× mehr. Plane Budgets entsprechend — ein Workload, der täglich Tausende Belegscans verarbeitet, summiert sich auf Flagship-Stufen schnell; multipliziere den Token-Preis auf der Modellseite mit deiner Bild-Token-Zahl.

Der Trade-off heißt OCR-Genauigkeit, Reasoning-Qualität und Kosten. Flagships (GPT-5 Vision, Claude 4.6, Gemini 2.5) lesen komplexe Layouts und reasonen sehr zuverlässig über Chart-Inhalte. Spezialisierte OCR-First-Modelle (Qwen 2.5 VL, Pixtral, InternVL) schlagen Flagships bei reiner Textextraktion manchmal zu einem Bruchteil der Kosten. Für reine Dokument-zu-JSON-Pipelines gewinnt meist ein spezialisiertes Modell mit striktem JSON-Schema. Für Dokument-plus-Reasoning-Workloads ('extrahiere diese Rechnung UND sag mir, ob die Steuer-Mathematik stimmt') gewinnen Flagships.

Achte auf Auflösungs-Limits: Die meisten Modelle skalieren sehr große Bilder vor der Verarbeitung herunter, was feinen Text in Screenshots und dichten Dokumenten zerstören kann. Vorverarbeite — zerlege hohe Dokumente in einzelne Seiten-Bilder, skaliere niedrigaufgelöste Scans vor dem Senden hoch —, um Lesbarkeit zu erhalten. Achte auch auf Halluzinationen in schwer lesbaren Regionen; multimodale Modelle erfinden selbstsicher Text, wo die Quelle unleserlich ist.

Die Top-Picks oben decken das Genauigkeits-Flagship, das günstigste Arbeitspferd, den Hochauflösungs-Champion und die schnellste Streaming-Option ab.

Typische Aufgaben

  • Rechnungs- und Beleg-Extraktion
  • Dokument-OCR und Strukturierung
  • UI-Screenshot-Analyse
  • Diagramm- und Grafik-Lesen
  • Annotation medizinischer und wissenschaftlicher Bilder
  • Visual QA für Barrierefreiheit

Häufige Fragen

Welches multimodale Modell liest Dokumente am besten?

GPT-5 Vision und Claude 4.6 führen bei komplexen Layouts, Charts und Handschrift. Für reine OCR auf sauberen Dokumenten erreichen Qwen 2.5 VL und Pixtral häufig Flagship-Qualität zu einem Zehntel der Kosten. Lass eine Probe deiner eigenen Dokumente auf jedem laufen, bevor du dich festlegst.

Wie wird der Preis für Bilder berechnet?

Jedes Bild wird in eine feste Token-Zahl umgerechnet — typisch 250–1.500 Tokens je nach Auflösung und Detail-Modus. Ein 1024×1024-Bild kostet also so viel wie ~1.000 Tokens Text. Mehrseitige Dokumente multiplizieren linear; schau in jede Modellkarte für die exakten Bild-Token-Raten.

Welche Bildformate werden akzeptiert?

JPEG, PNG, WebP und GIF (erstes Frame) sind universell. Manche Modelle akzeptieren auch PDF direkt (ein Bild pro Seite). Maximale Dateigröße ist typisch 20 MB; maximale Abmessungen 8K auf einer Seite. Verkleinere größere Dateien vorab, um stilles Downsampling zu vermeiden.

Kann es Handschrift lesen?

Flagships verarbeiten klare Handschrift zuverlässig und die meisten Kursivschriften in großen Sprachen. Die Qualität sinkt bei stark stilisierter Schrift, verblasster Tinte und komplexer Stenografie. Für Handschrift-Workloads mit hohem Volumen finetune auf einer Stichprobe deiner Domain oder kombiniere mit einem spezialisierten OCR-Vorverarbeiter.

Kann es Diagramme und Grafiken verstehen?

Ja — Chart-Lesen ist einer der stärksten Use-Cases. Flagships extrahieren Datenpunkte aus Balkendiagrammen, Liniengrafiken und Kreisdiagrammen; sie reasonen über Achsen-Skalen und identifizieren Trends. Für dichte wissenschaftliche Abbildungen frag nach strukturiertem Output (CSV oder JSON) statt einer narrativen Beschreibung.

Wie handhabt es schlechte Scans?

Die Qualität fällt unter 150 DPI oder über 30 % Rauschen steil ab. Vorverarbeite mit Schiefe-Korrektur, Kontrast-Normalisierung und leichter Entrauschung. Bei sehr schlechten Scans führe zuerst einen Upscaler aus (von /models/image), um die Lesbarkeit wiederherzustellen, bevor du sendest.

Kann ich mehrere Bilder in einer Anfrage senden?

Ja — die meisten Flagships akzeptieren 10–20 Bilder in einem einzigen Prompt. Praktisch zum Vergleichen von Screenshots, Verarbeiten mehrseitiger Dokumente in einem Durchgang oder Analysieren von Frame-Sequenzen. Die Gesamt-Token-Zahl (inklusive aller Bild-Tokens) muss in das Kontextfenster passen.

Wird Video Frame-für-Frame unterstützt?

Manche multimodalen Modelle (Gemini 2.5 Pro, Qwen 2.5 VL) akzeptieren Video direkt und sampeln Frames intern. Bei anderen extrahiere die Frames selbst (typisch alle 1–2 Sekunden) und sende sie als Multi-Image-Prompt. Für Echtzeit-Videoanalyse schau dir dedizierte Video-Understanding-Modelle an.

Mit einer API loslegen

Alle verfügbaren Modelle über eine OpenAI-kompatible API. Guthaben in USD im Voraus, kein Abo.