LiteLLM

LiteLLM es un gateway de LLM de código abierto con una API unificada para más de 100 proveedores de modelos. Enrute OpenClaw a través de LiteLLM para centralizar el seguimiento de costes, el registro, las claves virtuales con límites de gasto y la conmutación por error del backend sin cambiar la configuración de OpenClaw.

Inicio rápido

Incorporación (recomendado)
Configuración manual

openclaw onboard --auth-choice litellm-api-key

Para una configuración no interactiva con un proxy remoto, indique explícitamente la URL del proxy:

openclaw onboard --non-interactive --accept-risk --auth-choice litellm-api-key \
  --litellm-api-key "$LITELLM_API_KEY" --custom-base-url "https://litellm.example/v1"

Iniciar el proxy de LiteLLM

pip install 'litellm[proxy]'
litellm --model claude-opus-4-6

Conectar OpenClaw con LiteLLM

export LITELLM_API_KEY="your-litellm-key"
openclaw

Configuración

{
  models: {
    providers: {
      litellm: {
        baseUrl: "http://localhost:4000",
        apiKey: "${LITELLM_API_KEY}",
        api: "openai-completions",
        models: [
          {
            id: "claude-opus-4-6",
            name: "Claude Opus 4.6",
            reasoning: true,
            input: ["text", "image"],
            contextWindow: 200000,
            maxTokens: 64000,
          },
          {
            id: "gpt-4o",
            name: "GPT-4o",
            reasoning: false,
            input: ["text", "image"],
            contextWindow: 128000,
            maxTokens: 8192,
          },
        ],
      },
    },
  },
  agents: {
    defaults: {
      model: { primary: "litellm/claude-opus-4-6" },
    },
  },
}

El modelo predeterminado que escribe la incorporación es litellm/claude-opus-4-6.

Generación de imágenes

LiteLLM puede servir de backend para la herramienta image_generate mediante las rutas compatibles con OpenAI /images/generations y /images/edits. El modelo de imagen predeterminado es gpt-image-2; configure uno diferente en agents.defaults.mediaModels.image:

{
  models: {
    providers: {
      litellm: {
        baseUrl: "http://localhost:4000",
        apiKey: "${LITELLM_API_KEY}",
      },
    },
  },
  agents: {
    defaults: {
      imageGenerationModel: {
        primary: "litellm/gpt-image-2",
        timeoutMs: 180_000,
      },
    },
  },
}

Las URL de bucle invertido de LiteLLM (http://localhost:4000, 127.0.0.1, ::1, host.docker.internal) funcionan sin una anulación global de la red privada. Para un proxy alojado en la LAN, establezca models.providers.litellm.request.allowPrivateNetwork: true, ya que la clave de API se envía a ese host.

Opciones avanzadas

Claves virtuales

Cree una clave específica para OpenClaw con límites de gasto:

curl -X POST "http://localhost:4000/key/generate" \
  -H "Authorization: Bearer $LITELLM_MASTER_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "key_alias": "openclaw",
    "max_budget": 50.00,
    "budget_duration": "monthly"
  }'

Utilice la clave generada como LITELLM_API_KEY.

Enrutamiento de modelos

LiteLLM puede enrutar las solicitudes de modelos a distintos backends. Configúrelo en el archivo config.yaml de LiteLLM:

model_list:
  - model_name: claude-opus-4-6
    litellm_params:
      model: claude-opus-4-6
      api_key: os.environ/ANTHROPIC_API_KEY

  - model_name: gpt-4o
    litellm_params:
      model: gpt-4o
      api_key: os.environ/OPENAI_API_KEY

OpenClaw continúa solicitando claude-opus-4-6; LiteLLM gestiona el enrutamiento.

Consultar el uso

# Información de la clave
curl "http://localhost:4000/key/info" \
  -H "Authorization: Bearer sk-litellm-key"

# Registros de gastos
curl "http://localhost:4000/spend/logs" \
  -H "Authorization: Bearer $LITELLM_MASTER_KEY"

Notas sobre el comportamiento del proxy

LiteLLM se ejecuta en http://localhost:4000 de forma predeterminada.
OpenClaw se conecta a través del endpoint /v1, compatible con OpenAI y con estilo de proxy, de LiteLLM.
La adaptación de solicitudes exclusiva de OpenAI nativo no se aplica mediante una URL base de LiteLLM configurada: no se usa service_tier, ni store de Responses, ni indicaciones de caché de prompts, ni la adaptación de la carga útil del esfuerzo de razonamiento de OpenAI.
Las cabeceras ocultas de atribución de OpenClaw (originator, version, User-Agent) solo se envían a endpoints nativos de OpenAI verificados, por lo que no se insertan en una URL base personalizada de LiteLLM.

Para obtener información sobre la configuración general de proveedores y el comportamiento de la conmutación por error, consulte Proveedores de modelos.

Contenido relacionado

Documentación de LiteLLM

Documentación oficial y referencia de la API de LiteLLM.

Selección de modelos

Descripción general de todos los proveedores, las referencias de modelos y el comportamiento de la conmutación por error.

Configuración

Referencia completa de la configuración.

Modelos

Cómo elegir y configurar modelos.

Overview

Concepts and configuration

Providers

Inicio rápido

Configuración

Generación de imágenes

Opciones avanzadas

Contenido relacionado

Documentación de LiteLLM

Selección de modelos

Configuración

Modelos

​Inicio rápido

​Configuración

​Generación de imágenes

​Opciones avanzadas

​Contenido relacionado

Documentación de LiteLLM

Selección de modelos

Configuración

Modelos

Inicio rápido

Configuración

Generación de imágenes

Opciones avanzadas

Contenido relacionado