LiteLLM

LiteLLM은 100개 이상의 모델 제공자에 통합 API를 제공하는 오픈 소스 LLM Gateway입니다. OpenClaw 설정을 변경하지 않고도 중앙 집중식 비용 추적, 로깅, 지출 한도가 있는 가상 키, 백엔드 장애 조치를 위해 OpenClaw을 LiteLLM을 통해 라우팅할 수 있습니다.

빠른 시작

온보딩(권장)
수동 설정

openclaw onboard --auth-choice litellm-api-key

원격 프록시를 대상으로 비대화형 설정을 수행하려면 프록시 URL을 명시적으로 전달하세요.

openclaw onboard --non-interactive --accept-risk --auth-choice litellm-api-key \
  --litellm-api-key "$LITELLM_API_KEY" --custom-base-url "https://litellm.example/v1"

LiteLLM 프록시 시작

pip install 'litellm[proxy]'
litellm --model claude-opus-4-6

OpenClaw을 LiteLLM에 연결

export LITELLM_API_KEY="your-litellm-key"
openclaw

구성

{
  models: {
    providers: {
      litellm: {
        baseUrl: "http://localhost:4000",
        apiKey: "${LITELLM_API_KEY}",
        api: "openai-completions",
        models: [
          {
            id: "claude-opus-4-6",
            name: "Claude Opus 4.6",
            reasoning: true,
            input: ["text", "image"],
            contextWindow: 200000,
            maxTokens: 64000,
          },
          {
            id: "gpt-4o",
            name: "GPT-4o",
            reasoning: false,
            input: ["text", "image"],
            contextWindow: 128000,
            maxTokens: 8192,
          },
        ],
      },
    },
  },
  agents: {
    defaults: {
      model: { primary: "litellm/claude-opus-4-6" },
    },
  },
}

온보딩에서 기록하는 기본 모델은 litellm/claude-opus-4-6입니다.

이미지 생성

LiteLLM은 OpenAI 호환 /images/generations 및 /images/edits 경로를 통해 image_generate 도구의 백엔드 역할을 할 수 있습니다. 기본 이미지 모델은 gpt-image-2이며, 다른 모델을 사용하려면 agents.defaults.imageGenerationModel에서 구성하세요.

{
  models: {
    providers: {
      litellm: {
        baseUrl: "http://localhost:4000",
        apiKey: "${LITELLM_API_KEY}",
      },
    },
  },
  agents: {
    defaults: {
      imageGenerationModel: {
        primary: "litellm/gpt-image-2",
        timeoutMs: 180_000,
      },
    },
  },
}

루프백 LiteLLM URL(http://localhost:4000, 127.0.0.1, ::1, host.docker.internal)은 전역 사설 네트워크 재정의 없이 작동합니다. LAN에서 호스팅되는 프록시의 경우 API 키가 해당 호스트로 전송되므로 models.providers.litellm.request.allowPrivateNetwork: true를 설정하세요.

고급

가상 키

OpenClaw 전용 키를 지출 한도와 함께 생성하세요.

curl -X POST "http://localhost:4000/key/generate" \
  -H "Authorization: Bearer $LITELLM_MASTER_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "key_alias": "openclaw",
    "max_budget": 50.00,
    "budget_duration": "monthly"
  }'

생성된 키를 LITELLM_API_KEY로 사용하세요.

모델 라우팅

LiteLLM은 모델 요청을 여러 백엔드로 라우팅할 수 있습니다. LiteLLM의 config.yaml에서 구성하세요.

model_list:
  - model_name: claude-opus-4-6
    litellm_params:
      model: claude-opus-4-6
      api_key: os.environ/ANTHROPIC_API_KEY

  - model_name: gpt-4o
    litellm_params:
      model: gpt-4o
      api_key: os.environ/OPENAI_API_KEY

OpenClaw은 계속 claude-opus-4-6을 요청하고 LiteLLM이 라우팅을 처리합니다.

사용량 보기

# 키 정보
curl "http://localhost:4000/key/info" \
  -H "Authorization: Bearer sk-litellm-key"

# 지출 로그
curl "http://localhost:4000/spend/logs" \
  -H "Authorization: Bearer $LITELLM_MASTER_KEY"

프록시 동작 참고 사항

LiteLLM은 기본적으로 http://localhost:4000에서 실행됩니다.
OpenClaw은 LiteLLM의 프록시 방식 OpenAI 호환 /v1 엔드포인트를 통해 연결됩니다.
네이티브 OpenAI 전용 요청 구성은 설정된 LiteLLM 기본 URL을 통해서는 적용되지 않습니다. service_tier, Responses의 store, 프롬프트 캐시 힌트, OpenAI 추론 노력 수준 페이로드 구성이 모두 적용되지 않습니다.
숨겨진 OpenClaw 출처 헤더(originator, version, User-Agent)는 검증된 네이티브 OpenAI 엔드포인트에만 전송되므로 사용자 지정 LiteLLM 기본 URL에는 삽입되지 않습니다.

일반적인 제공자 구성 및 장애 조치 동작은 모델 제공자를 참조하세요.

LiteLLM 문서

LiteLLM 공식 문서 및 API 참조입니다.

모델 선택

모든 제공자, 모델 참조, 장애 조치 동작의 개요입니다.

구성

전체 구성 참조입니다.

모델

모델을 선택하고 구성하는 방법입니다.

Overview

Concepts and configuration

Providers

빠른 시작

구성

이미지 생성

고급

관련 문서

LiteLLM 문서

모델 선택

구성

모델

​빠른 시작

​구성

​이미지 생성

​고급

​관련 문서

LiteLLM 문서

모델 선택

구성

모델

빠른 시작

구성

이미지 생성

고급

관련 문서