मुख्य सामग्री पर जाएं
LiteLLM एक ओपन-सोर्स LLM Gateway है जो 100+ मॉडल प्रदाताओं के लिए एक एकीकृत API प्रदान करता है। केंद्रीकृत लागत ट्रैकिंग, लॉगिंग, और अपनी OpenClaw config बदले बिना बैकएंड स्विच करने की लचीलापन पाने के लिए OpenClaw को LiteLLM के माध्यम से रूट करें।
OpenClaw के साथ LiteLLM क्यों उपयोग करें?
  • लागत ट्रैकिंग — देखें कि OpenClaw सभी मॉडलों पर ठीक कितना खर्च करता है
  • मॉडल रूटिंग — config बदलावों के बिना Claude, GPT-4, Gemini, Bedrock के बीच स्विच करें
  • वर्चुअल कुंजियां — OpenClaw के लिए खर्च सीमाओं वाली कुंजियां बनाएं
  • लॉगिंग — डीबगिंग के लिए पूरे अनुरोध/प्रतिक्रिया लॉग
  • फॉलबैक — आपका प्राथमिक प्रदाता बंद होने पर स्वचालित फेलओवर

​
त्वरित शुरुआत

​
कॉन्फ़िगरेशन

​
एनवायरनमेंट वेरिएबल

export LITELLM_API_KEY="sk-litellm-key"

​
Config फ़ाइल

{
  models: {
    providers: {
      litellm: {
        baseUrl: "http://localhost:4000",
        apiKey: "${LITELLM_API_KEY}",
        api: "openai-completions",
        models: [
          {
            id: "claude-opus-4-6",
            name: "Claude Opus 4.6",
            reasoning: true,
            input: ["text", "image"],
            contextWindow: 200000,
            maxTokens: 64000,
          },
          {
            id: "gpt-4o",
            name: "GPT-4o",
            reasoning: false,
            input: ["text", "image"],
            contextWindow: 128000,
            maxTokens: 8192,
          },
        ],
      },
    },
  },
  agents: {
    defaults: {
      model: { primary: "litellm/claude-opus-4-6" },
    },
  },
}

​
उन्नत कॉन्फ़िगरेशन

​
इमेज जनरेशन

LiteLLM OpenAI-संगत /images/generations और /images/edits रूट के माध्यम से image_generate टूल का भी समर्थन कर सकता है। agents.defaults.imageGenerationModel के तहत LiteLLM इमेज मॉडल कॉन्फ़िगर करें: 
{
  models: {
    providers: {
      litellm: {
        baseUrl: "http://localhost:4000",
        apiKey: "${LITELLM_API_KEY}",
      },
    },
  },
  agents: {
    defaults: {
      imageGenerationModel: {
        primary: "litellm/gpt-image-2",
        timeoutMs: 180_000,
      },
    },
  },
}
http://localhost:4000 जैसे Loopback LiteLLM URL किसी वैश्विक प्राइवेट-नेटवर्क ओवरराइड के बिना काम करते हैं। LAN पर होस्ट किए गए प्रॉक्सी के लिए, models.providers.litellm.request.allowPrivateNetwork: true सेट करें क्योंकि API कुंजी कॉन्फ़िगर किए गए प्रॉक्सी होस्ट को भेजी जाएगी।
OpenClaw के लिए खर्च सीमाओं वाली एक समर्पित कुंजी बनाएं:
curl -X POST "http://localhost:4000/key/generate" \
  -H "Authorization: Bearer $LITELLM_MASTER_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "key_alias": "openclaw",
    "max_budget": 50.00,
    "budget_duration": "monthly"
  }'
जनरेट की गई कुंजी को LITELLM_API_KEY के रूप में उपयोग करें।
LiteLLM मॉडल अनुरोधों को अलग-अलग बैकएंड पर रूट कर सकता है। इसे अपनी LiteLLM config.yaml में कॉन्फ़िगर करें:
model_list:
  - model_name: claude-opus-4-6
    litellm_params:
      model: claude-opus-4-6
      api_key: os.environ/ANTHROPIC_API_KEY

  - model_name: gpt-4o
    litellm_params:
      model: gpt-4o
      api_key: os.environ/OPENAI_API_KEY
OpenClaw claude-opus-4-6 का अनुरोध करता रहता है — LiteLLM रूटिंग संभालता है।
LiteLLM का डैशबोर्ड या API जांचें:
# Key info
curl "http://localhost:4000/key/info" \
  -H "Authorization: Bearer sk-litellm-key"

# Spend logs
curl "http://localhost:4000/spend/logs" \
  -H "Authorization: Bearer $LITELLM_MASTER_KEY"
  • LiteLLM डिफ़ॉल्ट रूप से http://localhost:4000 पर चलता है
  • OpenClaw LiteLLM के प्रॉक्सी-शैली OpenAI-संगत /v1 endpoint के माध्यम से कनेक्ट करता है
  • नेटिव केवल-OpenAI अनुरोध शेपिंग LiteLLM के माध्यम से लागू नहीं होती: कोई service_tier नहीं, कोई Responses store नहीं, कोई prompt-cache संकेत नहीं, और कोई OpenAI reasoning-compat payload शेपिंग नहीं
  • छिपे हुए OpenClaw attribution headers (originator, version, User-Agent) कस्टम LiteLLM base URLs पर inject नहीं किए जाते
सामान्य प्रदाता कॉन्फ़िगरेशन और फेलओवर व्यवहार के लिए, मॉडल प्रदाता देखें।

​
संबंधित

LiteLLM Docs

आधिकारिक LiteLLM दस्तावेज़ और API संदर्भ।

Model selection

सभी प्रदाताओं, मॉडल refs, और फेलओवर व्यवहार का अवलोकन।

Configuration

पूरा config संदर्भ।

Model selection

मॉडल चुनने और कॉन्फ़िगर करने का तरीका।