pro Model HubDocs

Gemma 4 31B

Premium-Modell von Google mit 31 Mrd. Parametern für anspruchsvolle Texte und Zusammenfassungen, mit Bildverständnis. Langsamer als Gemma 4 26B-A4B, schreibt aber bei Zusammenfassungen oft genauer.

BetaBildeingabeTool-CallingReasoning

Steckbrief

API-ID (model)gemma-4-31b
AnbieterGoogle
KategorieSprachmodelle
Kontextfenster65.536 Token (Eingabe und Ausgabe zusammen)
Credit-Faktor2× (Credits pro Token)
Bildeingabeja (Anleitung)
Tool-Callingja (Anleitung)
ReasoningOptional (standardmäßig aus) (Anleitung)

Verbrauch pro Request: (Input-Token + Output-Token) × Credit-Faktor, siehe Abrechnung.

Stärken

  • Präzise Zusammenfassungen und anspruchsvolle Texte
  • Bildverständnis: bis zu 4 Bilder pro Anfrage (Beta)
  • Optionaler Reasoning-Modus
  • Zuverlässiges Tool Calling und strukturierte Ausgaben (JSON-Schema)
  • Kontextfenster von 65.536 Token

Schwächen

  • Läuft auf einem einzigen Server ohne zweite Instanz: Fällt er aus, ist das Modell bis zur Umschaltung auf ein Ausweichsystem nicht erreichbar (etwa 10 Minuten)
  • Etwa dreimal langsamer als Gemma 4 26B-A4B
  • Für Dokumente über 64k Token Gemma 4 26B-A4B nutzen
  • Kennt keine aktuellen Rechtsstände (Trainingsstand)

Empfohlene Einsatzbereiche

  • Zusammenfassungen für Management und Kunden
  • Anspruchsvolle Texterstellung und Analyse
  • Dokumente, Belege und Formulare auslesen

API-Hinweise

  • Reasoning ist standardmäßig aus. Jeder Wert von reasoning_effort außer none schaltet den Denkmodus ein, die Stufe ändert die Länge des Gedankengangs nicht.
  • tool_choice: "required" und das Erzwingen einer bestimmten Funktion setzt das Modell nicht um, es entscheidet wie bei auto selbst. Bei required kommt trotzdem finish_reason: "tool_calls" zurück, auch ohne Aufruf – prüfe tool_calls statt finish_reason.
  • Bilder nur als Base64-Data-URI, höchstens 4 pro Request, jedes etwa 260 Input-Token.

Beispiel

Den API-Key legst du im Portal unter API-Keys an, siehe Schnellstart.

curl https://api.promodelhub.de/v1/chat/completions \
  -H "Authorization: Bearer $PRO_MODEL_HUB_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gemma-4-31b",
    "messages": [{"role": "user", "content": "Erkläre in zwei Sätzen, was ein Sprachmodell ist."}]
  }'
import os
from openai import OpenAI

client = OpenAI(
    base_url="https://api.promodelhub.de/v1",
    api_key=os.environ["PRO_MODEL_HUB_API_KEY"],
)

response = client.chat.completions.create(
    model="gemma-4-31b",
    messages=[{"role": "user", "content": "Erkläre in zwei Sätzen, was ein Sprachmodell ist."}],
)
print(response.choices[0].message.content)

Reasoning

Der Denkmodus ist standardmäßig aus. Einschalten: "reasoning_effort": "low" oder "chat_template_kwargs": {"enable_thinking": true}. Den Gedankengang liefert die API getrennt von der Antwort in reasoning_content.

# Denkmodus einschalten (standardmäßig aus)
response = client.chat.completions.create(
    model="gemma-4-31b",
    messages=[{"role": "user", "content": "Wie viele Montage hat der März 2027?"}],
    reasoning_effort="low",
)
message = response.choices[0].message
print(getattr(message, "reasoning_content", None))  # Gedankengang, falls eingeschaltet
print(message.content)                              # eigentliche Antwort