LiteLLM

LiteLLM, 100’den fazla model sağlayıcısı için birleşik API sunan açık kaynaklı bir LLM gateway’idir. Merkezi maliyet takibi, günlük kaydı, harcama limitli sanal anahtarlar ve OpenClaw yapılandırmasını değiştirmeden arka uç yük devretme olanağı için OpenClaw’ı LiteLLM üzerinden yönlendirin.

Hızlı başlangıç

İlk kurulum (önerilen)
Manuel kurulum

openclaw onboard --auth-choice litellm-api-key

Uzak bir proxy ile etkileşimsiz kurulum için proxy URL’sini açıkça iletin:

openclaw onboard --non-interactive --accept-risk --auth-choice litellm-api-key \
  --litellm-api-key "$LITELLM_API_KEY" --custom-base-url "https://litellm.example/v1"

LiteLLM Proxy'yi başlatın

pip install 'litellm[proxy]'
litellm --model claude-opus-4-6

OpenClaw'ı LiteLLM'e yönlendirin

export LITELLM_API_KEY="your-litellm-key"
openclaw

Yapılandırma

{
  models: {
    providers: {
      litellm: {
        baseUrl: "http://localhost:4000",
        apiKey: "${LITELLM_API_KEY}",
        api: "openai-completions",
        models: [
          {
            id: "claude-opus-4-6",
            name: "Claude Opus 4.6",
            reasoning: true,
            input: ["text", "image"],
            contextWindow: 200000,
            maxTokens: 64000,
          },
          {
            id: "gpt-4o",
            name: "GPT-4o",
            reasoning: false,
            input: ["text", "image"],
            contextWindow: 128000,
            maxTokens: 8192,
          },
        ],
      },
    },
  },
  agents: {
    defaults: {
      model: { primary: "litellm/claude-opus-4-6" },
    },
  },
}

İlk kurulumun yazdığı varsayılan model litellm/claude-opus-4-6 değeridir.

Görsel oluşturma

LiteLLM, OpenAI uyumlu /images/generations ve /images/edits rotaları üzerinden image_generate aracını destekleyebilir. Varsayılan görsel modeli gpt-image-2 değeridir; farklı bir modeli agents.defaults.mediaModels.image altında yapılandırın:

{
  models: {
    providers: {
      litellm: {
        baseUrl: "http://localhost:4000",
        apiKey: "${LITELLM_API_KEY}",
      },
    },
  },
  agents: {
    defaults: {
      imageGenerationModel: {
        primary: "litellm/gpt-image-2",
        timeoutMs: 180_000,
      },
    },
  },
}

Geri döngü LiteLLM URL’leri (http://localhost:4000, 127.0.0.1, ::1, host.docker.internal) genel bir özel ağ geçersiz kılması olmadan çalışır. LAN üzerinde barındırılan bir proxy için API anahtarı bu ana makineye gönderildiğinden models.providers.litellm.request.allowPrivateNetwork: true ayarını yapın.

Gelişmiş

Sanal anahtarlar

OpenClaw için harcama limitleri olan özel bir anahtar oluşturun:

curl -X POST "http://localhost:4000/key/generate" \
  -H "Authorization: Bearer $LITELLM_MASTER_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "key_alias": "openclaw",
    "max_budget": 50.00,
    "budget_duration": "monthly"
  }'

Oluşturulan anahtarı LITELLM_API_KEY olarak kullanın.

Model yönlendirme

LiteLLM, model isteklerini farklı arka uçlara yönlendirebilir. LiteLLM config.yaml dosyanızda yapılandırın:

model_list:
  - model_name: claude-opus-4-6
    litellm_params:
      model: claude-opus-4-6
      api_key: os.environ/ANTHROPIC_API_KEY

  - model_name: gpt-4o
    litellm_params:
      model: gpt-4o
      api_key: os.environ/OPENAI_API_KEY

OpenClaw, claude-opus-4-6 istemeye devam eder; yönlendirmeyi LiteLLM gerçekleştirir.

Kullanımı görüntüleme

# Anahtar bilgileri
curl "http://localhost:4000/key/info" \
  -H "Authorization: Bearer sk-litellm-key"

# Harcama günlükleri
curl "http://localhost:4000/spend/logs" \
  -H "Authorization: Bearer $LITELLM_MASTER_KEY"

Proxy davranışı notları

LiteLLM varsayılan olarak http://localhost:4000 üzerinde çalışır.
OpenClaw, LiteLLM’in proxy tarzı OpenAI uyumlu /v1 uç noktası üzerinden bağlanır.
Yalnızca yerel OpenAI için kullanılan istek şekillendirme, yapılandırılmış bir LiteLLM temel URL’si üzerinden uygulanmaz: service_tier yoktur, Responses store yoktur, istem önbelleği ipuçları yoktur ve OpenAI akıl yürütme çabası yükü şekillendirmesi yoktur.
Gizli OpenClaw ilişkilendirme başlıkları (originator, version, User-Agent) yalnızca doğrulanmış yerel OpenAI uç noktalarına gönderilir; bu nedenle özel bir LiteLLM temel URL’sine eklenmez.

Genel sağlayıcı yapılandırması ve yük devretme davranışı için Model Sağlayıcıları bölümüne bakın.

İlgili içerikler

LiteLLM Belgeleri

Resmî LiteLLM belgeleri ve API referansı.

Model seçimi

Tüm sağlayıcılara, model referanslarına ve yük devretme davranışına genel bakış.

Yapılandırma

Eksiksiz yapılandırma referansı.

Modeller

Modellerin nasıl seçileceği ve yapılandırılacağı.

Overview

Concepts and configuration

Providers

Hızlı başlangıç

Yapılandırma

Görsel oluşturma

Gelişmiş

İlgili içerikler

LiteLLM Belgeleri

Model seçimi

Yapılandırma

Modeller

​Hızlı başlangıç

​Yapılandırma

​Görsel oluşturma

​Gelişmiş

​İlgili içerikler

LiteLLM Belgeleri

Model seçimi

Yapılandırma

Modeller

Hızlı başlangıç

Yapılandırma

Görsel oluşturma

Gelişmiş

İlgili içerikler