Mistral Small 24B – pro Model Hub

Kompaktes, schnelles Modell von Mistral AI mit 24 Mrd. Parametern – ideal für klar umrissene Aufgaben und Anwendungen mit hohem Anfragevolumen.

Steckbrief

API-ID (`model`)	`mistral-small-24b`
Anbieter	Mistral AI
Kategorie	Sprachmodelle
Kontextfenster	32.768 Token (Eingabe und Ausgabe zusammen)
Credit-Faktor	2× (Credits pro Token)
Bildeingabe	nein
Tool-Calling	ja (Anleitung)
Reasoning	Nicht verfügbar

Verbrauch pro Request: (Input-Token + Output-Token) × Credit-Faktor, siehe Abrechnung.

Stärken

Schnell und effizient
Gute Leistung in europäischen Sprachen
Solides Function Calling

Schwächen

Schwächer bei komplexem, mehrstufigem Schlussfolgern als große Modelle

Empfohlene Einsatzbereiche

Chatbots
Klassifikation
Datenextraktion
Kurze Zusammenfassungen
Anwendungen mit hohem Anfragevolumen

API-Hinweise

chat_template_kwargs lehnt das Modell mit 400 ab – nicht mitschicken.

Beispiel

Den API-Key legst du im Portal unter API-Keys an, siehe Schnellstart.

curl https://api.promodelhub.de/v1/chat/completions \
  -H "Authorization: Bearer $PRO_MODEL_HUB_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "mistral-small-24b",
    "messages": [{"role": "user", "content": "Erkläre in zwei Sätzen, was ein Sprachmodell ist."}]
  }'

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://api.promodelhub.de/v1",
    api_key=os.environ["PRO_MODEL_HUB_API_KEY"],
)

response = client.chat.completions.create(
    model="mistral-small-24b",
    messages=[{"role": "user", "content": "Erkläre in zwei Sätzen, was ein Sprachmodell ist."}],
)
print(response.choices[0].message.content)