Zum Hauptinhalt springen
OpenClaw integriert sich über Ollamas native API (/api/chat) mit gehosteten Cloud-Modellen und lokalen/selbst gehosteten Ollama-Servern. Sie können Ollama in drei Modi verwenden: Cloud + Local über einen erreichbaren Ollama-Host, Cloud only gegen https://ollama.com oder Local only gegen einen erreichbaren Ollama-Host. OpenClaw registriert außerdem ollama-cloud als erstklassige gehostete Provider-ID für die direkte Nutzung von Ollama Cloud. Verwenden Sie Referenzen wie ollama-cloud/kimi-k2.5:cloud, wenn Sie ein reines Cloud-Routing möchten, ohne die lokale Provider-ID ollama mitzunutzen. Die dedizierte Einrichtungsseite nur für die Cloud finden Sie unter Ollama Cloud.
Benutzer von Remote-Ollama: Verwenden Sie mit OpenClaw nicht die OpenAI-kompatible /v1-URL (http://host:11434/v1). Dadurch werden Tool-Aufrufe beschädigt, und Modelle können rohes Tool-JSON als Klartext ausgeben. Verwenden Sie stattdessen die native Ollama-API-URL: baseUrl: "http://host:11434" (ohne /v1).
Die Ollama-Provider-Konfiguration verwendet baseUrl als kanonischen Schlüssel. OpenClaw akzeptiert aus Kompatibilitätsgründen mit OpenAI-SDK-artigen Beispielen auch baseURL, neue Konfigurationen sollten jedoch baseUrl bevorzugen.

Authentifizierungsregeln

Lokale und LAN-Ollama-Hosts benötigen kein echtes Bearer-Token. OpenClaw verwendet die lokale Markierung ollama-local nur für loopback, private Netzwerke, .local und Ollama-Basis-URLs mit bloßem Hostnamen.
Remote-öffentliche Hosts und Ollama Cloud (https://ollama.com) benötigen echte Anmeldedaten über OLLAMA_API_KEY, ein Authentifizierungsprofil oder apiKey des Providers. Für die direkte gehostete Nutzung bevorzugen Sie den Provider ollama-cloud.
Benutzerdefinierte Provider-IDs, die api: "ollama" setzen, folgen denselben Regeln. Ein Provider ollama-remote, der auf einen privaten LAN-Ollama-Host zeigt, kann zum Beispiel apiKey: "ollama-local" verwenden, und Sub-Agents lösen diese Markierung über den Ollama-Provider-Hook auf, statt sie als fehlende Anmeldedaten zu behandeln. Die Memory-Suche kann außerdem agents.defaults.memorySearch.provider auf diese benutzerdefinierte Provider-ID setzen, damit Embeddings denselben Ollama-Endpunkt verwenden.
auth-profiles.json speichert die Anmeldedaten für eine Provider-ID. Legen Sie Endpunkteinstellungen (baseUrl, api, Modell-IDs, Header, Timeouts) in models.providers.<id> ab. Ältere flache Authentifizierungsprofildateien wie { "ollama-windows": { "apiKey": "ollama-local" } } sind kein Laufzeitformat; führen Sie openclaw doctor --fix aus, um sie mit Backup in das kanonische API-Key-Profil ollama-windows:default umzuschreiben. baseUrl in dieser Datei ist Kompatibilitätsrauschen und sollte in die Provider-Konfiguration verschoben werden.
Wenn Ollama für Memory-Embeddings verwendet wird, ist die Bearer-Authentifizierung auf den Host beschränkt, auf dem sie deklariert wurde:
  • Ein Schlüssel auf Provider-Ebene wird nur an den Ollama-Host dieses Providers gesendet.
  • agents.*.memorySearch.remote.apiKey wird nur an seinen Remote-Embedding-Host gesendet.
  • Ein reiner Umgebungswert OLLAMA_API_KEY wird als Ollama-Cloud-Konvention behandelt und standardmäßig nicht an lokale oder selbst gehostete Hosts gesendet.

Erste Schritte

Wählen Sie Ihre bevorzugte Einrichtungsmethode und Ihren Modus.
Am besten geeignet für: den schnellsten Weg zu einer funktionierenden Ollama-Cloud- oder lokalen Einrichtung.
1

Onboarding ausführen

openclaw onboard
Wählen Sie Ollama aus der Provider-Liste aus.
2

Modus wählen

  • Cloud + Lokal — lokaler Ollama-Host plus Cloud-Modelle, die über diesen Host geroutet werden
  • Nur Cloud — gehostete Ollama-Modelle über https://ollama.com
  • Nur lokal — nur lokale Modelle
3

Modell auswählen

Cloud only fragt nach OLLAMA_API_KEY und schlägt gehostete Cloud-Standardwerte vor. Cloud + Local und Local only fragen nach einer Ollama-Basis-URL, erkennen verfügbare Modelle und ziehen das ausgewählte lokale Modell automatisch, falls es noch nicht verfügbar ist. Wenn Ollama ein installiertes :latest-Tag wie gemma4:latest meldet, zeigt die Einrichtung dieses installierte Modell einmal an, statt sowohl gemma4 als auch gemma4:latest anzuzeigen oder den bloßen Alias erneut zu ziehen. Cloud + Local prüft außerdem, ob dieser Ollama-Host für Cloud-Zugriff angemeldet ist.
4

Verfügbarkeit des Modells prüfen

openclaw models list --provider ollama

Nicht interaktiver Modus

openclaw onboard --non-interactive \
  --auth-choice ollama \
  --accept-risk
Optional können Sie eine benutzerdefinierte Basis-URL oder ein Modell angeben:
openclaw onboard --non-interactive \
  --auth-choice ollama \
  --custom-base-url "http://ollama-host:11434" \
  --custom-model-id "qwen3.5:27b" \
  --accept-risk

Cloud-Modelle

Cloud + Local verwendet einen erreichbaren Ollama-Host als Steuerpunkt für lokale und Cloud-Modelle. Dies ist Ollamas bevorzugter Hybridablauf.Verwenden Sie während der Einrichtung Cloud + Lokal. OpenClaw fragt nach der Ollama-Basis-URL, erkennt lokale Modelle von diesem Host und prüft mit ollama signin, ob der Host für Cloud-Zugriff angemeldet ist. Wenn der Host angemeldet ist, schlägt OpenClaw außerdem gehostete Cloud-Standardwerte wie kimi-k2.5:cloud, minimax-m2.7:cloud und glm-5.1:cloud vor.Wenn der Host noch nicht angemeldet ist, belässt OpenClaw die Einrichtung nur lokal, bis Sie ollama signin ausführen.

Modellerkennung (impliziter Provider)

Wenn Sie OLLAMA_API_KEY (oder ein Authentifizierungsprofil) setzen und weder models.providers.ollama noch einen anderen benutzerdefinierten Remote-Provider mit api: "ollama" definieren, erkennt OpenClaw Modelle aus der lokalen Ollama-Instanz unter http://127.0.0.1:11434.
VerhaltenDetail
KatalogabfrageFragt /api/tags ab
FähigkeitserkennungVerwendet Best-Effort-Abfragen an /api/show, um contextWindow, erweiterte num_ctx-Modelfile-Parameter und Fähigkeiten einschließlich Vision/Tools zu lesen
Vision-ModelleModelle mit einer von /api/show gemeldeten vision-Fähigkeit werden als bildfähig markiert (input: ["text", "image"]), sodass OpenClaw Bilder automatisch in den Prompt einfügt
Reasoning-ErkennungVerwendet /api/show-Fähigkeiten, wenn verfügbar, einschließlich thinking; fällt auf eine Modellnamen-Heuristik (r1, reasoning, think) zurück, wenn Ollama Fähigkeiten auslässt
Token-LimitsSetzt maxTokens auf die von OpenClaw verwendete standardmäßige Ollama-Maximal-Token-Grenze
KostenSetzt alle Kosten auf 0
Dadurch werden manuelle Modelleinträge vermieden, während der Katalog mit der lokalen Ollama-Instanz abgeglichen bleibt. Sie können in lokalem infer model run eine vollständige Referenz wie ollama/<pulled-model>:latest verwenden; OpenClaw löst dieses installierte Modell aus Ollamas Live-Katalog auf, ohne dass ein handgeschriebener models.json-Eintrag erforderlich ist. Für angemeldete Ollama-Hosts können einige :cloud-Modelle über /api/chat und /api/show verwendbar sein, bevor sie in /api/tags erscheinen. Wenn Sie ausdrücklich eine vollständige Referenz ollama/<model>:cloud auswählen, validiert OpenClaw genau dieses fehlende Modell mit /api/show und fügt es nur dann zum Laufzeitkatalog hinzu, wenn Ollama Modellmetadaten bestätigt. Tippfehler schlagen weiterhin als unbekannte Modelle fehl, statt automatisch erstellt zu werden.
# See what models are available
ollama list
openclaw models list
Für einen schmalen Smoke-Test zur Textgenerierung, der die vollständige Agent-Tool-Oberfläche vermeidet, verwenden Sie lokales infer model run mit einer vollständigen Ollama-Modellreferenz:
OLLAMA_API_KEY=ollama-local \
  openclaw infer model run \
    --local \
    --model ollama/llama3.2:latest \
    --prompt "Reply with exactly: pong" \
    --json
Dieser Pfad verwendet weiterhin den konfigurierten Provider, die Authentifizierung und den nativen Ollama-Transport von OpenClaw, startet jedoch keinen Chat-Agent-Turn und lädt keinen MCP-/Tool-Kontext. Wenn dies erfolgreich ist, während normale Agent-Antworten fehlschlagen, untersuchen Sie als Nächstes die Agent-Prompt-/Tool-Kapazität des Modells. Für einen schmalen Smoke-Test eines Vision-Modells auf demselben schlanken Pfad fügen Sie infer model run eine oder mehrere Bilddateien hinzu. Dadurch werden der Prompt und das Bild direkt an das ausgewählte Ollama-Vision-Modell gesendet, ohne Chat-Tools, Memory oder vorherigen Sitzungskontext zu laden:
OLLAMA_API_KEY=ollama-local \
  openclaw infer model run \
    --local \
    --model ollama/qwen2.5vl:7b \
    --prompt "Describe this image in one sentence." \
    --file ./photo.jpg \
    --json
model run --file akzeptiert Dateien, die als image/* erkannt werden, einschließlich gängiger PNG-, JPEG- und WebP-Eingaben. Nicht-Bilddateien werden abgelehnt, bevor Ollama aufgerufen wird. Verwenden Sie für Spracherkennung stattdessen openclaw infer audio transcribe. Wenn Sie eine Unterhaltung mit /model ollama/<model> umschalten, behandelt OpenClaw dies als exakte Benutzerauswahl. Wenn die konfigurierte Ollama-baseUrl nicht erreichbar ist, schlägt die nächste Antwort mit dem Provider-Fehler fehl, statt stillschweigend von einem anderen konfigurierten Fallback-Modell zu antworten. Isolierte Cron-Jobs führen eine zusätzliche lokale Sicherheitsprüfung durch, bevor sie den Agenten- Turn starten. Wenn das ausgewählte Modell zu einem lokalen, privaten Netzwerk- oder .local- Ollama-Provider aufgelöst wird und /api/tags nicht erreichbar ist, zeichnet OpenClaw diesen Cron-Lauf als skipped auf, mit dem ausgewählten ollama/<model> im Fehlertext. Der Endpunkt- Preflight wird 5 Minuten lang zwischengespeichert, sodass mehrere Cron-Jobs, die auf denselben gestoppten Ollama-Daemon zeigen, nicht alle fehlschlagende Modellanfragen starten. Verifizieren Sie den lokalen Textpfad, den nativen Stream-Pfad und Embeddings live gegen lokales Ollama mit:
OPENCLAW_LIVE_TEST=1 OPENCLAW_LIVE_OLLAMA=1 OPENCLAW_LIVE_OLLAMA_WEB_SEARCH=0 \
  pnpm test:live -- extensions/ollama/ollama.live.test.ts
Für Ollama-Cloud-API-Key-Smoke-Tests richten Sie den Live-Test auf https://ollama.com und wählen Sie ein gehostetes Modell aus dem aktuellen Katalog:
export OLLAMA_API_KEY='<your-ollama-cloud-api-key>'

OPENCLAW_LIVE_TEST=1 \
OPENCLAW_LIVE_OLLAMA=1 \
OPENCLAW_LIVE_OLLAMA_BASE_URL=https://ollama.com \
OPENCLAW_LIVE_OLLAMA_MODEL=glm-5.1:cloud \
OPENCLAW_LIVE_OLLAMA_WEB_SEARCH=1 \
pnpm test:live -- extensions/ollama/ollama.live.test.ts
Der Cloud-Smoke-Test führt Text, nativen Stream und Websuche aus. Embeddings werden standardmäßig für https://ollama.com übersprungen, weil Ollama-Cloud-API-Keys /api/embed möglicherweise nicht autorisieren. Setzen Sie OPENCLAW_LIVE_OLLAMA_EMBEDDINGS=1, wenn Sie ausdrücklich möchten, dass der Live-Test fehlschlägt, falls der konfigurierte Cloud-Key den Embed-Endpunkt nicht verwenden kann. Um ein neues Modell hinzuzufügen, ziehen Sie es einfach mit Ollama:
ollama pull mistral
Das neue Modell wird automatisch erkannt und steht zur Nutzung bereit.
Wenn Sie models.providers.ollama explizit setzen oder einen benutzerdefinierten Remote-Provider wie models.providers.ollama-cloud mit api: "ollama" konfigurieren, wird die automatische Erkennung übersprungen und Sie müssen Modelle manuell definieren. Loopback-benutzerdefinierte Provider wie http://127.0.0.2:11434 werden weiterhin als lokal behandelt. Siehe den Abschnitt zur expliziten Konfiguration unten.

Node-lokale Inferenz

Agenten können eine kurze Aufgabe an ein Ollama-Modell delegieren, das auf einem gekoppelten Desktop- oder Server-Node installiert ist. Prompt und Antwort laufen über die bestehende authentifizierte Gateway/Node-Verbindung; die Modellanfrage läuft auf dem ausgewählten Node gegen seinen standardmäßigen local loopback Ollama-Endpunkt (http://127.0.0.1:11434).
1

Ollama auf dem Node starten

Ziehen Sie mindestens ein Chat-Modell und lassen Sie Ollama laufen:
ollama pull qwen3:0.6b
ollama list
2

Node-Host verbinden

Verbinden Sie auf derselben Maschine wie Ollama einen Node-Host mit dem Gateway:
openclaw node run \
  --host <gateway-host> \
  --port 18789 \
  --display-name "Local inference"
Genehmigen Sie das neue Gerät und seine deklarierten Node-Befehle auf dem Gateway-Host, und verifizieren Sie dann den Node:
openclaw devices list
openclaw devices approve <deviceRequestId>
openclaw nodes pending
openclaw nodes approve <nodeRequestId>
openclaw nodes status --connected
Sowohl eine erste Verbindung als auch ein Upgrade, das die Ollama-Befehle hinzufügt, können eine Genehmigung für Node-Befehle auslösen. Wenn der Node eine Verbindung herstellt, ohne ollama.models und ollama.chat anzukündigen, prüfen Sie erneut openclaw nodes pending.
3

Einen Agenten bitten, lokale Inferenz zu verwenden

Das gebündelte Ollama-Plugin stellt das Tool node_inference bereit. Agenten verwenden zuerst action: "discover" und anschließend action: "run" mit einem zurückgegebenen Node und Modell. Wenn genau ein fähiger Node verbunden ist, kann run den Node weglassen.Zum Beispiel: „Ermitteln Sie die Ollama-Modelle auf meinen Nodes und verwenden Sie dann das schnellste geladene Modell, um diesen Text zusammenzufassen.“
Discovery liest /api/tags, prüft /api/show-Fähigkeiten und verwendet /api/ps, wenn verfügbar, um bereits geladene Modelle zuerst einzuordnen. Es gibt nur lokale chatfähige Modelle zurück: Ollama-Cloud-Zeilen und reine Embedding-Modelle werden ausgeschlossen. Jeder Lauf weist Ollama an, Modell-Thinking zu deaktivieren, und begrenzt die Ausgabe auf 512 Tokens, sofern der Tool-Aufruf keinen anderen maxTokens-Wert anfordert. Einige Modelle, wie GPT-OSS, unterstützen das Deaktivieren von Thinking nicht und können weiterhin Reasoning-Tokens verwenden. Um Ollama auf einem Node laufen zu lassen, ohne es Agenten verfügbar zu machen, setzen Sie Folgendes in der Konfiguration, die dieser Node-Host verwendet:
openclaw config set plugins.entries.ollama.config.nodeInference.enabled false
Wenn der Node den Vordergrundbefehl openclaw node run aus der obigen Einrichtung verwendet, stoppen Sie diesen Prozess und führen Sie den Befehl erneut aus. Wenn er einen installierten Node- Dienst verwendet, führen Sie openclaw node restart aus. Der Node kündigt ollama.models und ollama.chat nicht mehr an; Ollama selbst und der Ollama-Provider des Gateway bleiben unverändert. Setzen Sie den Wert auf true und starten Sie den Node neu, um lokale Inferenz wieder anzukündigen. Eine geänderte Befehlsoberfläche kann nach der erneuten Verbindung eine Genehmigung über openclaw nodes pending erfordern. Sie können dieselben Node-Befehle ohne Agenten-Turn verifizieren:
openclaw nodes invoke \
  --node "Local inference" \
  --command ollama.models \
  --params '{}' \
  --invoke-timeout 90000 \
  --timeout 100000

openclaw nodes invoke \
  --node "Local inference" \
  --command ollama.chat \
  --params '{"model":"qwen3:0.6b","prompt":"Reply with exactly: pong","maxTokens":32,"timeoutMs":120000}' \
  --invoke-timeout 130000 \
  --timeout 140000
Node-lokale Inferenz verwendet absichtlich keine entfernte oder Cloud- models.providers.ollama.baseUrl wieder. Starten Sie Ollama auf dem standardmäßigen local loopback Endpunkt des Node. Die Node-Befehle sind standardmäßig auf macOS-, Linux- und Windows-Node-Hosts verfügbar und unterliegen weiterhin der normalen Node-Kopplung und Befehls- Richtlinie.

Vision und Bildbeschreibung

Das gebündelte Ollama-Plugin registriert Ollama als bildfähigen Provider für Medienverständnis. Dadurch kann OpenClaw explizite Bildbeschreibungsanfragen und konfigurierte Standardwerte für Bildmodelle über lokale oder gehostete Ollama-Vision-Modelle leiten. Für lokale Vision ziehen Sie ein Modell, das Bilder unterstützt:
ollama pull qwen2.5vl:7b
export OLLAMA_API_KEY="ollama-local"
Verifizieren Sie anschließend mit der infer-CLI:
openclaw infer image describe \
  --file ./photo.jpg \
  --model ollama/qwen2.5vl:7b \
  --json
--model muss eine vollständige <provider/model>-Referenz sein. Wenn es gesetzt ist, versucht openclaw infer image describe zuerst dieses Modell, statt die Beschreibung zu überspringen, weil das Modell native Vision unterstützt. Wenn der Modellaufruf fehlschlägt, kann OpenClaw über konfigurierte agents.defaults.imageModel.fallbacks fortfahren; Fehler bei Datei- oder URL-Vorbereitung schlagen weiterhin vor Fallback-Versuchen fehl. Verwenden Sie infer image describe, wenn Sie OpenClaws Provider-Ablauf für Bildverständnis, konfiguriertes agents.defaults.imageModel und die Ausgabeform der Bildbeschreibung möchten. Verwenden Sie infer model run --file, wenn Sie einen rohen multimodalen Modell-Probe mit einem benutzerdefinierten Prompt und einem oder mehreren Bildern möchten. Um Ollama als Standardmodell für Bildverständnis bei eingehenden Medien festzulegen, konfigurieren Sie agents.defaults.imageModel:
{
  agents: {
    defaults: {
      imageModel: {
        primary: "ollama/qwen2.5vl:7b",
      },
    },
  },
}
Bevorzugen Sie die vollständige ollama/<model>-Referenz. Wenn dasselbe Modell unter models.providers.ollama.models mit input: ["text", "image"] aufgeführt ist und kein anderer konfigurierter Bild-Provider diese bloße Modell-ID bereitstellt, normalisiert OpenClaw auch eine bloße imageModel-Referenz wie qwen2.5vl:7b zu ollama/qwen2.5vl:7b. Wenn mehr als ein konfigurierter Bild-Provider dieselbe bloße ID hat, verwenden Sie das Provider-Präfix explizit. Langsame lokale Vision-Modelle können ein längeres Timeout für Bildverständnis benötigen als Cloud-Modelle. Sie können außerdem abstürzen oder stoppen, wenn Ollama versucht, auf eingeschränkter Hardware den vollständigen angekündigten Vision-Kontext zuzuweisen. Setzen Sie ein Fähigkeits-Timeout und begrenzen Sie num_ctx im Modelleintrag, wenn Sie nur einen normalen Bildbeschreibungs-Turn benötigen:
{
  models: {
    providers: {
      ollama: {
        models: [
          {
            id: "qwen2.5vl:7b",
            name: "qwen2.5vl:7b",
            input: ["text", "image"],
            params: { num_ctx: 2048, keep_alive: "1m" },
          },
        ],
      },
    },
  },
  tools: {
    media: {
      image: {
        timeoutSeconds: 180,
        models: [{ provider: "ollama", model: "qwen2.5vl:7b", timeoutSeconds: 300 }],
      },
    },
  },
}
Dieses Timeout gilt für eingehendes Bildverständnis und für das explizite image-Tool, das der Agent während eines Turns aufrufen kann. models.providers.ollama.timeoutSeconds auf Provider-Ebene steuert weiterhin den zugrunde liegenden Guard für Ollama-HTTP-Anfragen bei normalen Modellaufrufen. Verifizieren Sie das explizite Bild-Tool live gegen lokales Ollama mit:
OPENCLAW_LIVE_TEST=1 OPENCLAW_LIVE_OLLAMA_IMAGE=1 \
  pnpm test:live -- src/agents/tools/image-tool.ollama.live.test.ts
Wenn Sie models.providers.ollama.models manuell definieren, markieren Sie Vision-Modelle mit Unterstützung für Bildeingaben:
{
  id: "qwen2.5vl:7b",
  name: "qwen2.5vl:7b",
  input: ["text", "image"],
  contextWindow: 128000,
  maxTokens: 8192,
}
OpenClaw lehnt Bildbeschreibungsanfragen für Modelle ab, die nicht als bildfähig markiert sind. Bei impliziter Erkennung liest OpenClaw dies von Ollama, wenn /api/show eine Vision-Fähigkeit meldet.

Konfiguration

Der einfachste rein lokale Aktivierungspfad erfolgt über eine Umgebungsvariable:
export OLLAMA_API_KEY="ollama-local"
Wenn OLLAMA_API_KEY gesetzt ist, können Sie apiKey im Provider-Eintrag weglassen, und OpenClaw füllt ihn für Verfügbarkeitsprüfungen aus.

Häufige Rezepte

Verwenden Sie diese als Ausgangspunkte und ersetzen Sie Modell-IDs durch die exakten Namen aus ollama list oder openclaw models list --provider ollama.
Verwenden Sie dies, wenn Ollama auf derselben Maschine wie der Gateway läuft und OpenClaw die installierten Modelle automatisch erkennen soll.
ollama serve
ollama pull gemma4
export OLLAMA_API_KEY="ollama-local"
openclaw models list --provider ollama
openclaw models set ollama/gemma4
Dieser Pfad hält die Konfiguration minimal. Fügen Sie keinen models.providers.ollama-Block hinzu, es sei denn, Sie möchten Modelle manuell definieren.
Verwenden Sie native Ollama-URLs für LAN-Hosts. Fügen Sie kein /v1 hinzu.
{
  models: {
    providers: {
      ollama: {
        baseUrl: "http://gpu-box.local:11434",
        apiKey: "ollama-local",
        api: "ollama",
        timeoutSeconds: 300,
        contextWindow: 32768,
        maxTokens: 8192,
        models: [
          {
            id: "qwen3.5:9b",
            name: "qwen3.5:9b",
            reasoning: true,
            input: ["text"],
            params: {
              num_ctx: 32768,
              thinking: false,
              keep_alive: "15m",
            },
          },
        ],
      },
    },
  },
  agents: {
    defaults: {
      model: { primary: "ollama/qwen3.5:9b" },
    },
  },
}
contextWindow ist das OpenClaw-seitige Kontextbudget. params.num_ctx wird für die Anfrage an Ollama gesendet. Halten Sie beide Werte aufeinander abgestimmt, wenn Ihre Hardware nicht den vollständig beworbenen Kontext des Modells ausführen kann.
Verwenden Sie dies, wenn Sie keinen lokalen Daemon ausführen und gehostete Ollama-Modelle direkt verwenden möchten.
export OLLAMA_API_KEY="your-ollama-api-key"
{
  models: {
    providers: {
      ollama: {
        baseUrl: "https://ollama.com",
        apiKey: "OLLAMA_API_KEY",
        api: "ollama",
        models: [
          {
            id: "kimi-k2.5:cloud",
            name: "kimi-k2.5:cloud",
            reasoning: false,
            input: ["text", "image"],
            contextWindow: 128000,
            maxTokens: 8192,
          },
        ],
      },
    },
  },
  agents: {
    defaults: {
      model: { primary: "ollama/kimi-k2.5:cloud" },
    },
  },
}
Verwenden Sie dies, wenn ein lokaler oder LAN-Ollama-Daemon mit ollama signin angemeldet ist und sowohl lokale Modelle als auch :cloud-Modelle bereitstellen soll.
ollama signin
ollama pull gemma4
{
  models: {
    providers: {
      ollama: {
        baseUrl: "http://127.0.0.1:11434",
        apiKey: "ollama-local",
        api: "ollama",
        timeoutSeconds: 300,
        models: [
          { id: "gemma4", name: "gemma4", input: ["text"] },
          { id: "kimi-k2.5:cloud", name: "kimi-k2.5:cloud", input: ["text", "image"] },
        ],
      },
    },
  },
  agents: {
    defaults: {
      model: {
        primary: "ollama/gemma4",
        fallbacks: ["ollama/kimi-k2.5:cloud"],
      },
    },
  },
}
Verwenden Sie benutzerdefinierte Provider-IDs, wenn Sie mehr als einen Ollama-Server haben. Jeder Provider erhält seinen eigenen Host, eigene Modelle, Authentifizierung, Timeout und Modellreferenzen.
{
  models: {
    providers: {
      "ollama-fast": {
        baseUrl: "http://mini.local:11434",
        apiKey: "ollama-local",
        api: "ollama",
        contextWindow: 32768,
        models: [{ id: "gemma4", name: "gemma4", input: ["text"] }],
      },
      "ollama-large": {
        baseUrl: "http://gpu-box.local:11434",
        apiKey: "ollama-local",
        api: "ollama",
        timeoutSeconds: 420,
        contextWindow: 131072,
        maxTokens: 16384,
        models: [{ id: "qwen3.5:27b", name: "qwen3.5:27b", input: ["text"] }],
      },
    },
  },
  agents: {
    defaults: {
      model: {
        primary: "ollama-fast/gemma4",
        fallbacks: ["ollama-large/qwen3.5:27b"],
      },
    },
  },
}
Wenn OpenClaw die Anfrage sendet, wird das aktive Provider-Präfix entfernt, sodass ollama-large/qwen3.5:27b Ollama als qwen3.5:27b erreicht.
Einige lokale Modelle können einfache Prompts beantworten, haben aber Schwierigkeiten mit der vollständigen Agent-Tool-Oberfläche. Beginnen Sie damit, Tools und Kontext zu begrenzen, bevor Sie globale Runtime-Einstellungen ändern.
{
  agents: {
    list: [
      {
        id: "local",
        experimental: {
          localModelLean: true,
        },
        model: { primary: "ollama/gemma4" },
      },
    ],
  },
  models: {
    providers: {
      ollama: {
        baseUrl: "http://127.0.0.1:11434",
        apiKey: "ollama-local",
        api: "ollama",
        contextWindow: 32768,
        models: [
          {
            id: "gemma4",
            name: "gemma4",
            input: ["text"],
            params: { num_ctx: 32768 },
            compat: { supportsTools: false },
          },
        ],
      },
    },
  },
}
Verwenden Sie compat.supportsTools: false nur, wenn das Modell oder der Server bei Tool-Schemas zuverlässig fehlschlägt. Dies tauscht Agent-Fähigkeiten gegen Stabilität. localModelLean entfernt Browser-, Cron- und Nachrichten-Tools von der direkten Agent-Oberfläche und platziert größere Kataloge standardmäßig hinter strukturierten Tool Search-Steuerelementen, außer wenn ein Lauf direkte Nachrichtenübermittlungssemantik beibehalten muss. Es ändert jedoch nicht Ollamas Runtime-Kontext oder Thinking-Modus. Kombinieren Sie es mit explizitem params.num_ctx und params.thinking: false für kleine Qwen-artige Thinking-Modelle, die in Schleifen geraten oder ihr Antwortbudget für verborgenes Reasoning verbrauchen.

Modellauswahl

Nach der Konfiguration sind alle Ihre Ollama-Modelle verfügbar:
{
  agents: {
    defaults: {
      model: {
        primary: "ollama/gpt-oss:20b",
        fallbacks: ["ollama/llama3.3", "ollama/qwen2.5-coder:32b"],
      },
    },
  },
}
Benutzerdefinierte Ollama-Provider-IDs werden ebenfalls unterstützt. Wenn eine Modellreferenz das aktive Provider-Präfix verwendet, etwa ollama-spark/qwen3:32b, entfernt OpenClaw nur dieses Präfix, bevor Ollama aufgerufen wird, sodass der Server qwen3:32b erhält. Für langsame lokale Modelle sollten Sie Provider-spezifisches Anfrage-Tuning bevorzugen, bevor Sie den Timeout der gesamten Agent-Runtime erhöhen:
{
  models: {
    providers: {
      ollama: {
        timeoutSeconds: 300,
        models: [
          {
            id: "gemma4:26b",
            name: "gemma4:26b",
            params: { keep_alive: "15m" },
          },
        ],
      },
    },
  },
}
timeoutSeconds gilt für die Modell-HTTP-Anfrage, einschließlich Verbindungsaufbau, Headern, Body-Streaming und dem gesamten geschützten Fetch-Abbruch. params.keep_alive wird bei nativen /api/chat-Anfragen als keep_alive auf oberster Ebene an Ollama weitergeleitet; legen Sie es pro Modell fest, wenn die Ladezeit beim ersten Turn der Engpass ist.

Schnelle Überprüfung

# Ollama daemon visible to this machine
curl http://127.0.0.1:11434/api/tags

# OpenClaw catalog and selected model
openclaw models list --provider ollama
openclaw models status

# Direct model smoke
openclaw infer model run \
  --model ollama/gemma4 \
  --prompt "Reply with exactly: ok"
Ersetzen Sie bei Remote-Hosts 127.0.0.1 durch den in baseUrl verwendeten Host. Wenn curl funktioniert, OpenClaw aber nicht, prüfen Sie, ob der Gateway auf einer anderen Maschine, in einem Container oder unter einem anderen Dienstkonto läuft. OpenClaw unterstützt Ollama Web Search als gebündelten web_search-Provider.
EigenschaftDetail
HostVerwendet Ihren konfigurierten Ollama-Host (models.providers.ollama.baseUrl, falls gesetzt, andernfalls http://127.0.0.1:11434); https://ollama.com verwendet die gehostete API direkt
AuthOhne Schlüssel für angemeldete lokale Ollama-Hosts; OLLAMA_API_KEY oder konfigurierte Provider-Authentifizierung für direkte Suche über https://ollama.com oder auth-geschützte Hosts
AnforderungLokale/selbst gehostete Hosts müssen laufen und mit ollama signin angemeldet sein; direkte gehostete Suche erfordert baseUrl: "https://ollama.com" plus einen echten Ollama-API-Schlüssel
Wählen Sie Ollama Web Search während openclaw onboard oder openclaw configure --section web, oder setzen Sie:
{
  tools: {
    web: {
      search: {
        provider: "ollama",
      },
    },
  },
}
Für direkte gehostete Suche über Ollama Cloud:
{
  models: {
    providers: {
      ollama: {
        baseUrl: "https://ollama.com",
        apiKey: "OLLAMA_API_KEY",
        api: "ollama",
        models: [{ id: "kimi-k2.5:cloud", name: "kimi-k2.5:cloud", input: ["text"] }],
      },
    },
  },
  tools: {
    web: {
      search: { provider: "ollama" },
    },
  },
}
Für einen angemeldeten lokalen Daemon verwendet OpenClaw den /api/experimental/web_search-Proxy des Daemons. Für https://ollama.com ruft es den gehosteten /api/web_search-Endpunkt direkt auf.
Die vollständige Einrichtung und Details zum Verhalten finden Sie unter Ollama Web Search.

Erweiterte Konfiguration

Tool Calling ist im OpenAI-kompatiblen Modus nicht zuverlässig. Verwenden Sie diesen Modus nur, wenn Sie für einen Proxy das OpenAI-Format benötigen und nicht auf natives Tool-Calling-Verhalten angewiesen sind.
Wenn Sie stattdessen den OpenAI-kompatiblen Endpunkt verwenden müssen (zum Beispiel hinter einem Proxy, der nur das OpenAI-Format unterstützt), setzen Sie api: "openai-completions" explizit:
{
  models: {
    providers: {
      ollama: {
        baseUrl: "http://ollama-host:11434/v1",
        api: "openai-completions",
        injectNumCtxForOpenAICompat: true, // default: true
        apiKey: "ollama-local",
        models: [...]
      }
    }
  }
}
Dieser Modus unterstützt Streaming und Tool Calling möglicherweise nicht gleichzeitig. Sie müssen Streaming eventuell mit params: { streaming: false } in der Modellkonfiguration deaktivieren.Wenn api: "openai-completions" mit Ollama verwendet wird, injiziert OpenClaw standardmäßig options.num_ctx, damit Ollama nicht stillschweigend auf ein Kontextfenster von 4096 zurückfällt. Wenn Ihr Proxy/Upstream unbekannte options-Felder ablehnt, deaktivieren Sie dieses Verhalten:
{
  models: {
    providers: {
      ollama: {
        baseUrl: "http://ollama-host:11434/v1",
        api: "openai-completions",
        injectNumCtxForOpenAICompat: false,
        apiKey: "ollama-local",
        models: [...]
      }
    }
  }
}
Bei automatisch erkannten Modellen verwendet OpenClaw das von Ollama gemeldete Kontextfenster, sofern verfügbar, einschließlich größerer PARAMETER num_ctx-Werte aus benutzerdefinierten Modelfiles. Andernfalls fällt es auf das von OpenClaw verwendete standardmäßige Ollama-Kontextfenster zurück.Sie können Standardwerte auf Provider-Ebene für contextWindow, contextTokens und maxTokens für jedes Modell unter diesem Ollama-Provider festlegen und sie bei Bedarf pro Modell überschreiben. contextWindow ist das Prompt- und Compaction-Budget von OpenClaw. Native Ollama-Anfragen lassen options.num_ctx ungesetzt, sofern Sie nicht ausdrücklich params.num_ctx konfigurieren, sodass Ollama seinen eigenen modell-, OLLAMA_CONTEXT_LENGTH- oder VRAM-basierten Standard anwenden kann. Um den Laufzeitkontext von Ollama pro Anfrage zu begrenzen oder zu erzwingen, ohne eine Modelfile neu zu bauen, setzen Sie params.num_ctx; ungültige, nullwertige, negative und nicht endliche Werte werden ignoriert. Wenn Sie eine ältere Konfiguration aktualisiert haben, die nur contextWindow oder maxTokens verwendet hat, um einen nativen Ollama-Anfragekontext zu erzwingen, führen Sie openclaw doctor --fix aus, um diese expliziten Provider- oder Modell-Budgets nach params.num_ctx zu kopieren. Der OpenAI-kompatible Ollama-Adapter fügt weiterhin standardmäßig options.num_ctx aus dem konfigurierten params.num_ctx oder contextWindow ein; deaktivieren Sie dies mit injectNumCtxForOpenAICompat: false, wenn Ihr Upstream options ablehnt.Native Ollama-Modelleinträge akzeptieren außerdem die üblichen Ollama-Laufzeitoptionen unter params, darunter temperature, top_p, top_k, min_p, num_predict, stop, repeat_penalty, num_batch, num_thread und use_mmap. OpenClaw leitet nur Ollama-Anfrageschlüssel weiter, sodass OpenClaw-Laufzeitparameter wie streaming nicht an Ollama weitergegeben werden. Verwenden Sie params.think oder params.thinking, um think auf oberster Ollama-Ebene zu senden; false deaktiviert API-level Thinking für Qwen-artige Thinking-Modelle.
{
  models: {
    providers: {
      ollama: {
        contextWindow: 32768,
        models: [
          {
            id: "llama3.3",
            contextWindow: 131072,
            maxTokens: 65536,
            params: {
              num_ctx: 32768,
              temperature: 0.7,
              top_p: 0.9,
              thinking: false,
            },
          }
        ]
      }
    }
  }
}
Pro Modell funktioniert auch agents.defaults.models["ollama/<model>"].params.num_ctx. Wenn beides konfiguriert ist, gewinnt der explizite Provider-Modelleintrag vor dem Agent-Standard.
Für native Ollama-Modelle leitet OpenClaw die Thinking-Steuerung so weiter, wie Ollama sie erwartet: think auf oberster Ebene, nicht options.think. Automatisch erkannte Modelle, deren /api/show-Antwort die Fähigkeit thinking enthält, stellen /think low, /think medium, /think high und /think max bereit; Modelle ohne Thinking stellen nur /think off bereit.
openclaw agent --model ollama/gemma4 --thinking off
openclaw agent --model ollama/gemma4 --thinking low
Sie können auch einen Modellstandard festlegen:
{
  agents: {
    defaults: {
      models: {
        "ollama/gemma4": {
          thinking: "low",
        },
      },
    },
  },
}
Pro Modell kann params.think oder params.thinking Ollama-API-Thinking für ein bestimmtes konfiguriertes Modell deaktivieren oder erzwingen. OpenClaw behält diese expliziten Modellparameter bei, wenn der aktive Lauf nur den impliziten Standard off hat; Laufzeitbefehle ungleich off wie /think medium überschreiben den aktiven Lauf weiterhin.
OpenClaw behandelt Modelle mit Namen wie deepseek-r1, reasoning oder think standardmäßig als reasoning-fähig.
ollama pull deepseek-r1:32b
Es ist keine zusätzliche Konfiguration erforderlich. OpenClaw markiert sie automatisch.
Ollama ist kostenlos und läuft lokal, daher werden alle Modellkosten auf $0 gesetzt. Dies gilt sowohl für automatisch erkannte als auch für manuell definierte Modelle.
Das gebündelte Ollama-Plugin registriert einen Memory-Embedding-Provider für Memory-Suche. Es verwendet die konfigurierte Ollama-Basis-URL und den API-Schlüssel, ruft Ollamas aktuellen /api/embed-Endpunkt auf und bündelt nach Möglichkeit mehrere Memory-Chunks in einer input-Anfrage.Wenn proxy.enabled=true ist, verwenden Ollama-Memory-Embedding-Anfragen an den exakten vom konfigurierten baseUrl abgeleiteten Host-local-loopback-Ursprung den geschützten direkten Pfad von OpenClaw statt des verwalteten Forward-Proxys. Der konfigurierte Hostname muss selbst localhost oder ein Loopback-IP-Literal sein; DNS-Namen, die lediglich zu Loopback auflösen, verwenden weiterhin den verwalteten Proxy-Pfad. LAN-, Tailnet-, private Netzwerk- und öffentliche Ollama-Hosts bleiben ebenfalls auf dem verwalteten Proxy-Pfad. Weiterleitungen zu einem anderen Host oder Port erben kein Vertrauen. Betreiber können weiterhin die globale Einstellung proxy.loopbackMode: "proxy" setzen, um Loopback-Datenverkehr durch den Proxy zu senden, oder proxy.loopbackMode: "block", um Loopback-Verbindungen abzulehnen, bevor eine Verbindung geöffnet wird; siehe Verwalteter Proxy für die prozessweite Wirkung dieser Einstellung.
EigenschaftWert
Standardmodellnomic-embed-text
Auto-PullJa — das Embedding-Modell wird automatisch abgerufen, wenn es lokal nicht vorhanden ist
Embeddings zur Abfragezeit verwenden Retrieval-Präfixe für Modelle, die diese erfordern oder empfehlen, darunter nomic-embed-text, qwen3-embedding und mxbai-embed-large. Memory-Dokument-Batches bleiben unverändert, sodass vorhandene Indizes keine Formatmigration benötigen.So wählen Sie Ollama als Embedding-Provider für die Memory-Suche aus:
{
  agents: {
    defaults: {
      memorySearch: {
        provider: "ollama",
        remote: {
          // Default for Ollama. Raise on larger hosts if reindexing is too slow.
          nonBatchConcurrency: 1,
        },
      },
    },
  },
}
Für einen Remote-Embedding-Host beschränken Sie die Authentifizierung auf diesen Host:
{
  agents: {
    defaults: {
      memorySearch: {
        provider: "ollama",
        model: "nomic-embed-text",
        remote: {
          baseUrl: "http://gpu-box.local:11434",
          apiKey: "ollama-local",
          nonBatchConcurrency: 2,
        },
      },
    },
  },
}
Die Ollama-Integration von OpenClaw verwendet standardmäßig die native Ollama-API (/api/chat), die Streaming und Tool-Calling gleichzeitig vollständig unterstützt. Es ist keine spezielle Konfiguration erforderlich.Für native /api/chat-Anfragen leitet OpenClaw die Thinking-Steuerung außerdem direkt an Ollama weiter: /think off und openclaw agent --thinking off senden think: false auf oberster Ebene, sofern kein expliziter Modellwert params.think/params.thinking konfiguriert ist, während /think low|medium|high den passenden Aufwand-String für think auf oberster Ebene senden. /think max wird Ollamas höchstem nativen Aufwand zugeordnet, think: "high".
Wenn Sie den OpenAI-kompatiblen Endpunkt verwenden müssen, lesen Sie den Abschnitt „Legacy OpenAI-kompatibler Modus“ oben. Streaming und Tool-Calling funktionieren in diesem Modus möglicherweise nicht gleichzeitig.

Fehlerbehebung

Unter WSL2 mit NVIDIA/CUDA erstellt der offizielle Ollama-Linux-Installer eine systemd-Einheit ollama.service mit Restart=always. Wenn dieser Dienst automatisch startet und während des WSL2-Starts ein GPU-gestütztes Modell lädt, kann Ollama Host-Speicher belegen, während das Modell geladen wird. Die Hyper-V-Speicherrückgewinnung kann diese belegten Seiten nicht immer zurückgewinnen, sodass Windows die WSL2-VM beenden kann, systemd Ollama erneut startet und sich die Schleife wiederholt.Häufige Hinweise:
  • wiederholte WSL2-Neustarts oder Beendigungen von der Windows-Seite
  • hohe CPU-Last in app.slice oder ollama.service kurz nach dem WSL2-Start
  • SIGTERM von systemd statt eines Linux-OOM-Killer-Ereignisses
OpenClaw protokolliert beim Start eine Warnung, wenn WSL2, ein aktivierter ollama.service mit Restart=always und sichtbare CUDA-Marker erkannt werden.Abhilfe:
sudo systemctl disable ollama
Fügen Sie dies auf der Windows-Seite zu %USERPROFILE%\.wslconfig hinzu und führen Sie dann wsl --shutdown aus:
[experimental]
autoMemoryReclaim=disabled
Legen Sie in der Ollama-Dienstumgebung eine kürzere Keep-alive-Zeit fest oder starten Sie Ollama nur bei Bedarf manuell:
export OLLAMA_KEEP_ALIVE=5m
ollama serve
Siehe ollama/ollama#11317.
Stellen Sie sicher, dass Ollama läuft, dass Sie OLLAMA_API_KEY (oder ein Authentifizierungsprofil) gesetzt haben und dass Sie keinen expliziten Eintrag models.providers.ollama definiert haben:
ollama serve
Prüfen Sie, ob die API erreichbar ist:
curl http://localhost:11434/api/tags
Wenn Ihr Modell nicht aufgeführt ist, rufen Sie das Modell entweder lokal ab oder definieren Sie es explizit in models.providers.ollama.
ollama list  # See what's installed
ollama pull gemma4
ollama pull gpt-oss:20b
ollama pull llama3.3     # Or another model
Prüfen Sie, ob Ollama auf dem richtigen Port läuft:
# Check if Ollama is running
ps aux | grep ollama

# Or restart Ollama
ollama serve
Prüfen Sie dies von derselben Maschine und Laufzeit aus, auf der der Gateway läuft:
openclaw gateway status --deep
curl http://ollama-host:11434/api/tags
Häufige Ursachen:
  • baseUrl zeigt auf localhost, aber der Gateway läuft in Docker oder auf einem anderen Host.
  • Die URL verwendet /v1, wodurch OpenAI-kompatibles Verhalten statt nativer Ollama-Nutzung ausgewählt wird.
  • Der Remote-Host benötigt Firewall- oder LAN-Binding-Änderungen auf der Ollama-Seite.
  • Das Modell ist im Daemon Ihres Laptops vorhanden, aber nicht im Remote-Daemon.
Dies bedeutet üblicherweise, dass der Provider den OpenAI-kompatiblen Modus verwendet oder das Modell Tool-Schemas nicht verarbeiten kann.Bevorzugen Sie den nativen Ollama-Modus:
{
  models: {
    providers: {
      ollama: {
        baseUrl: "http://ollama-host:11434",
        api: "ollama",
      },
    },
  },
}
Wenn ein kleines lokales Modell bei Tool-Schemas weiterhin fehlschlägt, setzen Sie compat.supportsTools: false für diesen Modelleintrag und testen Sie erneut.
Gehostete Kimi/GLM-Antworten, die aus langen, nichtsprachlichen Symbolfolgen bestehen, werden als fehlgeschlagene Provider-Ausgabe behandelt statt als erfolgreiche Assistant-Antwort. Dadurch können normale Wiederholungs-, Fallback- oder Fehlerbehandlung übernehmen, ohne den beschädigten Text in der Sitzung zu speichern.Wenn dies wiederholt passiert, erfassen Sie den rohen Modellnamen, die aktuelle Sitzungsdatei und ob der Lauf Cloud + Local oder Cloud only verwendet hat, und versuchen Sie dann eine neue Sitzung sowie ein Fallback-Modell:
openclaw infer model run --model ollama/kimi-k2.5:cloud --prompt "Reply with exactly: ok" --json
openclaw models set ollama/gemma4
Große lokale Modelle können vor Beginn des Streamings einen langen ersten Ladevorgang benötigen. Beschränken Sie das Timeout auf den Ollama-Provider und bitten Sie Ollama optional, das Modell zwischen Turns geladen zu halten:
{
  models: {
    providers: {
      ollama: {
        timeoutSeconds: 300,
        models: [
          {
            id: "gemma4:26b",
            name: "gemma4:26b",
            params: { keep_alive: "15m" },
          },
        ],
      },
    },
  },
}
Wenn der Host selbst Verbindungen nur langsam annimmt, erweitert timeoutSeconds auch das geschützte Undici-Verbindungs-Timeout für diesen Provider.
Viele Ollama-Modelle geben Kontexte an, die größer sind, als Ihre Hardware bequem ausführen kann. Natives Ollama verwendet Ollamas eigene Standardvorgabe für den Laufzeitkontext, sofern Sie nicht params.num_ctx setzen. Begrenzen Sie sowohl das Budget von OpenClaw als auch den Anfragekontext von Ollama, wenn Sie eine vorhersehbare Latenz bis zum ersten Token wünschen:
{
  models: {
    providers: {
      ollama: {
        contextWindow: 32768,
        maxTokens: 8192,
        models: [
          {
            id: "qwen3.5:9b",
            name: "qwen3.5:9b",
            params: { num_ctx: 32768, thinking: false },
          },
        ],
      },
    },
  },
}
Senken Sie zuerst contextWindow, wenn OpenClaw zu viel Prompt sendet. Senken Sie params.num_ctx, wenn Ollama einen Laufzeitkontext lädt, der für die Maschine zu groß ist. Senken Sie maxTokens, wenn die Generierung zu lange dauert.
Weitere Hilfe: Fehlerbehebung und FAQ.

Verwandt

Modell-Provider

Überblick über alle Provider, Modellreferenzen und Failover-Verhalten.

Modellauswahl

Wie Sie Modelle auswählen und konfigurieren.

Ollama-Websuche

Vollständige Einrichtung und Verhaltensdetails für die Ollama-gestützte Websuche.

Konfiguration

Vollständige Konfigurationsreferenz.