LiteLLM

LiteLLM 是一个开源 LLM Gateway 网关，通过统一 API 接入 100 多个模型提供商。通过 LiteLLM 路由 OpenClaw，可集中跟踪成本和记录日志，使用带有支出限额的虚拟密钥，并实现后端故障转移，而无需更改 OpenClaw 配置。

快速开始

新手引导（推荐）
手动设置

openclaw onboard --auth-choice litellm-api-key

如需针对远程代理进行非交互式设置，请显式传入代理 URL：

openclaw onboard --non-interactive --accept-risk --auth-choice litellm-api-key \
  --litellm-api-key "$LITELLM_API_KEY" --custom-base-url "https://litellm.example/v1"

启动 LiteLLM 代理

pip install 'litellm[proxy]'
litellm --model claude-opus-4-6

将 OpenClaw 指向 LiteLLM

export LITELLM_API_KEY="your-litellm-key"
openclaw

配置

{
  models: {
    providers: {
      litellm: {
        baseUrl: "http://localhost:4000",
        apiKey: "${LITELLM_API_KEY}",
        api: "openai-completions",
        models: [
          {
            id: "claude-opus-4-6",
            name: "Claude Opus 4.6",
            reasoning: true,
            input: ["text", "image"],
            contextWindow: 200000,
            maxTokens: 64000,
          },
          {
            id: "gpt-4o",
            name: "GPT-4o",
            reasoning: false,
            input: ["text", "image"],
            contextWindow: 128000,
            maxTokens: 8192,
          },
        ],
      },
    },
  },
  agents: {
    defaults: {
      model: { primary: "litellm/claude-opus-4-6" },
    },
  },
}

新手引导写入的默认模型是 litellm/claude-opus-4-6。

图像生成

LiteLLM 可以通过 OpenAI 兼容的 /images/generations 和 /images/edits 路由为 image_generate 工具提供后端支持。默认图像模型是 gpt-image-2；可在 agents.defaults.mediaModels.image 下配置其他模型：

{
  models: {
    providers: {
      litellm: {
        baseUrl: "http://localhost:4000",
        apiKey: "${LITELLM_API_KEY}",
      },
    },
  },
  agents: {
    defaults: {
      imageGenerationModel: {
        primary: "litellm/gpt-image-2",
        timeoutMs: 180_000,
      },
    },
  },
}

local loopback LiteLLM URL（http://localhost:4000、127.0.0.1、::1、host.docker.internal）无需全局专用网络覆盖即可使用。对于托管在 LAN 上的代理，请设置 models.providers.litellm.request.allowPrivateNetwork: true，因为 API 密钥会发送到该主机。

高级

虚拟密钥

为 OpenClaw 创建一个带有支出限额的专用密钥：

curl -X POST "http://localhost:4000/key/generate" \
  -H "Authorization: Bearer $LITELLM_MASTER_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "key_alias": "openclaw",
    "max_budget": 50.00,
    "budget_duration": "monthly"
  }'

将生成的密钥用作 LITELLM_API_KEY。

模型路由

LiteLLM 可以将模型请求路由到不同后端。在 LiteLLM 的 config.yaml 中进行配置：

model_list:
  - model_name: claude-opus-4-6
    litellm_params:
      model: claude-opus-4-6
      api_key: os.environ/ANTHROPIC_API_KEY

  - model_name: gpt-4o
    litellm_params:
      model: gpt-4o
      api_key: os.environ/OPENAI_API_KEY

OpenClaw 会继续请求 claude-opus-4-6；LiteLLM 负责处理路由。

查看用量

# 密钥信息
curl "http://localhost:4000/key/info" \
  -H "Authorization: Bearer sk-litellm-key"

# 支出日志
curl "http://localhost:4000/spend/logs" \
  -H "Authorization: Bearer $LITELLM_MASTER_KEY"

代理行为说明

LiteLLM 默认运行在 http://localhost:4000 上。
OpenClaw 通过 LiteLLM 代理式的 OpenAI 兼容 /v1 端点进行连接。
配置 LiteLLM 基础 URL 后，不会应用仅限原生 OpenAI 的请求调整：不使用 service_tier，不使用 Responses store，不使用提示缓存提示，也不进行 OpenAI 推理强度载荷调整。
隐藏的 OpenClaw 归因标头（originator、version、User-Agent）仅会发送到已验证的原生 OpenAI 端点，因此不会注入自定义 LiteLLM 基础 URL。

有关常规提供商配置和故障转移行为，请参阅模型提供商。

LiteLLM 文档

LiteLLM 官方文档和 API 参考。

模型选择

所有提供商、模型引用和故障转移行为的概览。

配置

完整配置参考。

Models

如何选择和配置模型。

概览

模型概念

提供商

快速开始

配置

图像生成

高级

相关内容

LiteLLM 文档

模型选择

配置

Models

​快速开始

​配置

​图像生成

​高级

​相关内容

LiteLLM 文档

模型选择

配置

Models

快速开始

配置

图像生成

高级

相关内容