Integrationen

Überall, wo du einen „OpenAI-kompatiblen“ Anbieter eintragen kannst, funktioniert der pro Model Hub. Du brauchst immer dieselben drei Angaben:

Für Werkzeuge, die mehrere Anbieter verwalten, lohnt sich ein eigener Key pro Werkzeug mit Credit-Limit.

OpenAI-SDKsLink kopieren

Python und Node.js: siehe Schnellstart. Bei anderen Sprachen (Go, Java, .NET, PHP …) setzt du im OpenAI-Client die Basis-URL und den Key, der Rest bleibt gleich.

LangChainLink kopieren

import os
from langchain_openai import ChatOpenAI, OpenAIEmbeddings

llm = ChatOpenAI(
    model="gemma-4-31b",
    base_url="https://api.promodelhub.de/v1",
    api_key=os.environ["PRO_MODEL_HUB_API_KEY"],
)
print(llm.invoke("Was ist RAG? Ein Satz.").content)

embeddings = OpenAIEmbeddings(
    model="qwen3-vl-embedding-2b",
    base_url="https://api.promodelhub.de/v1",
    api_key=os.environ["PRO_MODEL_HUB_API_KEY"],
    check_embedding_ctx_length=False,  # sonst schickt LangChain Token-IDs statt Text
)

LlamaIndexLink kopieren

import os
from llama_index.llms.openai_like import OpenAILike

llm = OpenAILike(
    model="gemma-4-31b",
    api_base="https://api.promodelhub.de/v1",
    api_key=os.environ["PRO_MODEL_HUB_API_KEY"],
    is_chat_model=True,
    is_function_calling_model=True,
    context_window=32768,
)

Das Paket heißt llama-index-llms-openai-like. Das Kontextfenster des Modells steht auf der jeweiligen Modellseite.

Open WebUILink kopieren

Eine eigene Chat-Oberfläche für dein Team: In Open WebUI unter Admin-Einstellungen → Verbindungen → OpenAI API eine Verbindung hinzufügen, Basis-URL und API-Key eintragen. Die Modelle erscheinen danach in der Modellauswahl (Open WebUI liest sie über /v1/models).

Coding-AssistentenLink kopieren

Für Programmieraufgaben eignen sich die Modelle der Kategorie Coding (siehe Modelle).

Continue (VS Code, JetBrains) – in der config.yaml:

models:
  - name: Qwen3 Coder Next (pro Model Hub)
    provider: openai
    model: qwen3-coder-next
    apiBase: https://api.promodelhub.de/v1
    apiKey: <dein API-Key>
    roles: [chat, edit, apply]

Cline (VS Code) – in den Einstellungen als API-Provider OpenAI Compatible wählen, Basis-URL, API-Key und Modell-ID eintragen.

Coding-Agenten schicken viel Kontext (Dateien, Tool-Definitionen) und viele Requests hintereinander. Behalte den Credit-Verbrauch und die Limits deines Pakets im Blick, vor allem die parallelen Requests.

n8n und andere Automatisierungs-ToolsLink kopieren

In n8n die Zugangsdaten vom Typ OpenAI anlegen und die Basis-URL auf https://api.promodelhub.de/v1 ändern. Danach funktionieren die OpenAI-Knoten und der „OpenAI Chat Model“-Knoten für AI-Agenten mit den Modellen des pro Model Hub. In anderen Tools (Make, Zapier, Flowise …) funktioniert es genauso, sofern sie eine eigene Basis-URL erlauben.