Gemma 4 31B
Premium-Modell von Google mit 31 Mrd. Parametern für anspruchsvolle Texte und Zusammenfassungen, mit Bildverständnis. Langsamer als Gemma 4 26B-A4B, schreibt aber bei Zusammenfassungen oft genauer.
BetaBildeingabeTool-CallingReasoning
Steckbrief
API-ID (model) | gemma-4-31b |
|---|---|
| Anbieter | |
| Kategorie | Sprachmodelle |
| Kontextfenster | 65.536 Token (Eingabe und Ausgabe zusammen) |
| Credit-Faktor | 2× (Credits pro Token) |
| Bildeingabe | ja (Anleitung) |
| Tool-Calling | ja (Anleitung) |
| Reasoning | Optional (standardmäßig aus) (Anleitung) |
Verbrauch pro Request: (Input-Token + Output-Token) × Credit-Faktor, siehe Abrechnung.
Stärken
- Präzise Zusammenfassungen und anspruchsvolle Texte
- Bildverständnis: bis zu 4 Bilder pro Anfrage (Beta)
- Optionaler Reasoning-Modus
- Zuverlässiges Tool Calling und strukturierte Ausgaben (JSON-Schema)
- Kontextfenster von 65.536 Token
Schwächen
- Läuft auf einem einzigen Server ohne zweite Instanz: Fällt er aus, ist das Modell bis zur Umschaltung auf ein Ausweichsystem nicht erreichbar (etwa 10 Minuten)
- Etwa dreimal langsamer als Gemma 4 26B-A4B
- Für Dokumente über 64k Token Gemma 4 26B-A4B nutzen
- Kennt keine aktuellen Rechtsstände (Trainingsstand)
Empfohlene Einsatzbereiche
- Zusammenfassungen für Management und Kunden
- Anspruchsvolle Texterstellung und Analyse
- Dokumente, Belege und Formulare auslesen
API-Hinweise
- Reasoning ist standardmäßig aus. Jeder Wert von
reasoning_effortaußernoneschaltet den Denkmodus ein, die Stufe ändert die Länge des Gedankengangs nicht. tool_choice: "required"und das Erzwingen einer bestimmten Funktion setzt das Modell nicht um, es entscheidet wie beiautoselbst. Beirequiredkommt trotzdemfinish_reason: "tool_calls"zurück, auch ohne Aufruf – prüfetool_callsstattfinish_reason.- Bilder nur als Base64-Data-URI, höchstens 4 pro Request, jedes etwa 260 Input-Token.
Beispiel
Den API-Key legst du im Portal unter API-Keys an, siehe Schnellstart.
curl https://api.promodelhub.de/v1/chat/completions \
-H "Authorization: Bearer $PRO_MODEL_HUB_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "gemma-4-31b",
"messages": [{"role": "user", "content": "Erkläre in zwei Sätzen, was ein Sprachmodell ist."}]
}'import os
from openai import OpenAI
client = OpenAI(
base_url="https://api.promodelhub.de/v1",
api_key=os.environ["PRO_MODEL_HUB_API_KEY"],
)
response = client.chat.completions.create(
model="gemma-4-31b",
messages=[{"role": "user", "content": "Erkläre in zwei Sätzen, was ein Sprachmodell ist."}],
)
print(response.choices[0].message.content)Reasoning
Der Denkmodus ist standardmäßig aus. Einschalten: "reasoning_effort": "low" oder "chat_template_kwargs": {"enable_thinking": true}. Den Gedankengang liefert die API getrennt von der Antwort in reasoning_content.
# Denkmodus einschalten (standardmäßig aus)
response = client.chat.completions.create(
model="gemma-4-31b",
messages=[{"role": "user", "content": "Wie viele Montage hat der März 2027?"}],
reasoning_effort="low",
)
message = response.choices[0].message
print(getattr(message, "reasoning_content", None)) # Gedankengang, falls eingeschaltet
print(message.content) # eigentliche Antwort