Qwen3-VL Reranker 2B
Reranker von Alibaba/Qwen: bewertet, wie gut Dokumente zu einer Suchanfrage passen, und sortiert die Treffer einer Vektorsuche neu.
Beta
Steckbrief
API-ID (model) | qwen3-vl-reranker-2b |
|---|---|
| Anbieter | Alibaba/Qwen |
| Kategorie | rerank |
| Kontextfenster | 8.192 Token (Eingabe und Ausgabe zusammen) |
| Credit-Faktor | 0,25× (Credits pro Token) |
| Bildeingabe | nein |
| Tool-Calling | nein |
| Reasoning | Nicht verfügbar |
Verbrauch pro Request: (Input-Token + Output-Token) × Credit-Faktor, siehe Abrechnung.
Stärken
- Höhere Trefferquote auf Platz 1 nach der Vektorsuche (in unseren Tests 86 statt 66–74 %)
- Mehrsprachig, stark auf Deutsch
- Cohere-/Jina-kompatible API (
/v1/rerank)
Schwächen
- Läuft auf einem einzigen Server ohne zweite Instanz: Fällt er aus, ist das Modell bis zur Umschaltung auf ein Ausweichsystem nicht erreichbar (etwa 10 Minuten)
- Jedes Dokument wird zusammen mit der Suchanfrage bewertet, deshalb zählen viele kurze Dokumente vergleichsweise viele Token
Empfohlene Einsatzbereiche
- RAG: die 20–50 besten Treffer einer Vektorsuche neu sortieren
- Suche in Wissensdatenbanken und Tickets
API-Hinweise
- Endpunkt
POST /v1/rerankmitquery,documentsund optionaltop_n. - Die verbrauchten Token stehen in
meta.billed_units.total_tokens(keinusage-Feld). - Höchstens 8.192 Token pro Paar aus Suchanfrage und Dokument.
Beispiel
Den API-Key legst du im Portal unter API-Keys an, siehe Schnellstart.
curl https://api.promodelhub.de/v1/chat/completions \
-H "Authorization: Bearer $PRO_MODEL_HUB_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "qwen3-vl-reranker-2b",
"messages": [{"role": "user", "content": "Erkläre in zwei Sätzen, was ein Sprachmodell ist."}]
}'import os
from openai import OpenAI
client = OpenAI(
base_url="https://api.promodelhub.de/v1",
api_key=os.environ["PRO_MODEL_HUB_API_KEY"],
)
response = client.chat.completions.create(
model="qwen3-vl-reranker-2b",
messages=[{"role": "user", "content": "Erkläre in zwei Sätzen, was ein Sprachmodell ist."}],
)
print(response.choices[0].message.content)