LiteLLM

LiteLLM is een opensource-LLM-gateway met één uniforme API voor meer dan 100 modelproviders. Routeer OpenClaw via LiteLLM voor gecentraliseerde kostentracering, logregistratie, virtuele sleutels met bestedingslimieten en failover van backends zonder de OpenClaw-configuratie te wijzigen.

Snel aan de slag

Onboarding (aanbevolen)
Handmatige configuratie

openclaw onboard --auth-choice litellm-api-key

Geef voor een niet-interactieve configuratie met een externe proxy de proxy-URL expliciet op:

openclaw onboard --non-interactive --accept-risk --auth-choice litellm-api-key \
  --litellm-api-key "$LITELLM_API_KEY" --custom-base-url "https://litellm.example/v1"

LiteLLM Proxy starten

pip install 'litellm[proxy]'
litellm --model claude-opus-4-6

OpenClaw naar LiteLLM verwijzen

export LITELLM_API_KEY="your-litellm-key"
openclaw

Configuratie

{
  models: {
    providers: {
      litellm: {
        baseUrl: "http://localhost:4000",
        apiKey: "${LITELLM_API_KEY}",
        api: "openai-completions",
        models: [
          {
            id: "claude-opus-4-6",
            name: "Claude Opus 4.6",
            reasoning: true,
            input: ["text", "image"],
            contextWindow: 200000,
            maxTokens: 64000,
          },
          {
            id: "gpt-4o",
            name: "GPT-4o",
            reasoning: false,
            input: ["text", "image"],
            contextWindow: 128000,
            maxTokens: 8192,
          },
        ],
      },
    },
  },
  agents: {
    defaults: {
      model: { primary: "litellm/claude-opus-4-6" },
    },
  },
}

Het standaardmodel dat de onboarding wegschrijft, is litellm/claude-opus-4-6.

Afbeeldingen genereren

LiteLLM kan de tool image_generate ondersteunen via OpenAI-compatibele routes voor /images/generations en /images/edits. Het standaardmodel voor afbeeldingen is gpt-image-2; configureer een ander model onder agents.defaults.mediaModels.image:

{
  models: {
    providers: {
      litellm: {
        baseUrl: "http://localhost:4000",
        apiKey: "${LITELLM_API_KEY}",
      },
    },
  },
  agents: {
    defaults: {
      imageGenerationModel: {
        primary: "litellm/gpt-image-2",
        timeoutMs: 180_000,
      },
    },
  },
}

Lokale loopback-URL’s van LiteLLM (http://localhost:4000, 127.0.0.1, ::1, host.docker.internal) werken zonder een globale overschrijving voor privénetwerken. Stel voor een proxy die op het LAN wordt gehost models.providers.litellm.request.allowPrivateNetwork: true in, omdat de API-sleutel naar die host wordt verzonden.

Geavanceerd

Virtuele sleutels

Maak voor OpenClaw een afzonderlijke sleutel met bestedingslimieten:

curl -X POST "http://localhost:4000/key/generate" \
  -H "Authorization: Bearer $LITELLM_MASTER_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "key_alias": "openclaw",
    "max_budget": 50.00,
    "budget_duration": "monthly"
  }'

Gebruik de gegenereerde sleutel als LITELLM_API_KEY.

Modelroutering

LiteLLM kan modelaanvragen naar verschillende backends routeren. Configureer dit in je LiteLLM-config.yaml:

model_list:
  - model_name: claude-opus-4-6
    litellm_params:
      model: claude-opus-4-6
      api_key: os.environ/ANTHROPIC_API_KEY

  - model_name: gpt-4o
    litellm_params:
      model: gpt-4o
      api_key: os.environ/OPENAI_API_KEY

OpenClaw blijft claude-opus-4-6 aanvragen; LiteLLM verzorgt de routering.

Gebruik bekijken

# Sleutelinformatie
curl "http://localhost:4000/key/info" \
  -H "Authorization: Bearer sk-litellm-key"

# Bestedingslogboeken
curl "http://localhost:4000/spend/logs" \
  -H "Authorization: Bearer $LITELLM_MASTER_KEY"

Opmerkingen over proxygedrag

LiteLLM draait standaard op http://localhost:4000.
OpenClaw maakt verbinding via LiteLLM’s proxyachtige, OpenAI-compatibele /v1-eindpunt.
Aanvraagvorming die uitsluitend voor het oorspronkelijke OpenAI geldt, wordt niet toegepast via een geconfigureerde LiteLLM-basis-URL: geen service_tier, geen Responses-store, geen hints voor promptcaching en geen vorming van OpenAI-payloads voor reasoning effort.
Verborgen OpenClaw-toeschrijvingsheaders (originator, version, User-Agent) worden alleen naar geverifieerde oorspronkelijke OpenAI-eindpunten verzonden en worden dus niet in een aangepaste LiteLLM-basis-URL geïnjecteerd.

Zie Modelproviders voor algemene providerconfiguratie en failovergedrag.

Gerelateerd

LiteLLM-documentatie

Officiële LiteLLM-documentatie en API-referentie.

Modelselectie

Overzicht van alle providers, modelreferenties en failovergedrag.

Configuratie

Volledige configuratiereferentie.

Modellen

Modellen kiezen en configureren.

Overview

Concepts and configuration

Providers

Snel aan de slag

Configuratie

Afbeeldingen genereren

Geavanceerd

Gerelateerd

LiteLLM-documentatie

Modelselectie

Configuratie

Modellen

​Snel aan de slag

​Configuratie

​Afbeeldingen genereren

​Geavanceerd

​Gerelateerd

LiteLLM-documentatie

Modelselectie

Configuratie

Modellen

Snel aan de slag

Configuratie

Afbeeldingen genereren

Geavanceerd

Gerelateerd