LiteLLM

LiteLLM è un gateway LLM open source con un’API unificata per oltre 100 provider di modelli. Instrada OpenClaw tramite LiteLLM per centralizzare il monitoraggio dei costi, la registrazione, le chiavi virtuali con limiti di spesa e il failover del backend senza modificare la configurazione di OpenClaw.

Avvio rapido

Configurazione iniziale (consigliata)
Configurazione manuale

openclaw onboard --auth-choice litellm-api-key

Per una configurazione non interattiva con un proxy remoto, specifica esplicitamente l’URL del proxy:

openclaw onboard --non-interactive --accept-risk --auth-choice litellm-api-key \
  --litellm-api-key "$LITELLM_API_KEY" --custom-base-url "https://litellm.example/v1"

Avvia il proxy LiteLLM

pip install 'litellm[proxy]'
litellm --model claude-opus-4-6

Indirizza OpenClaw a LiteLLM

export LITELLM_API_KEY="your-litellm-key"
openclaw

Configurazione

{
  models: {
    providers: {
      litellm: {
        baseUrl: "http://localhost:4000",
        apiKey: "${LITELLM_API_KEY}",
        api: "openai-completions",
        models: [
          {
            id: "claude-opus-4-6",
            name: "Claude Opus 4.6",
            reasoning: true,
            input: ["text", "image"],
            contextWindow: 200000,
            maxTokens: 64000,
          },
          {
            id: "gpt-4o",
            name: "GPT-4o",
            reasoning: false,
            input: ["text", "image"],
            contextWindow: 128000,
            maxTokens: 8192,
          },
        ],
      },
    },
  },
  agents: {
    defaults: {
      model: { primary: "litellm/claude-opus-4-6" },
    },
  },
}

Il modello predefinito scritto dalla configurazione iniziale è litellm/claude-opus-4-6.

Generazione di immagini

LiteLLM può supportare lo strumento image_generate tramite le route compatibili con OpenAI /images/generations e /images/edits. Il modello di immagini predefinito è gpt-image-2; configurane uno diverso in agents.defaults.imageGenerationModel:

{
  models: {
    providers: {
      litellm: {
        baseUrl: "http://localhost:4000",
        apiKey: "${LITELLM_API_KEY}",
      },
    },
  },
  agents: {
    defaults: {
      imageGenerationModel: {
        primary: "litellm/gpt-image-2",
        timeoutMs: 180_000,
      },
    },
  },
}

Gli URL local loopback di LiteLLM (http://localhost:4000, 127.0.0.1, ::1, host.docker.internal) funzionano senza un’eccezione globale per la rete privata. Per un proxy ospitato sulla LAN, imposta models.providers.litellm.request.allowPrivateNetwork: true perché la chiave API viene inviata a tale host.

Funzionalità avanzate

Chiavi virtuali

Crea una chiave dedicata per OpenClaw con limiti di spesa:

curl -X POST "http://localhost:4000/key/generate" \
  -H "Authorization: Bearer $LITELLM_MASTER_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "key_alias": "openclaw",
    "max_budget": 50.00,
    "budget_duration": "monthly"
  }'

Usa la chiave generata come LITELLM_API_KEY.

Instradamento dei modelli

LiteLLM può instradare le richieste dei modelli verso backend diversi. Configuralo nel file config.yaml di LiteLLM:

model_list:
  - model_name: claude-opus-4-6
    litellm_params:
      model: claude-opus-4-6
      api_key: os.environ/ANTHROPIC_API_KEY

  - model_name: gpt-4o
    litellm_params:
      model: gpt-4o
      api_key: os.environ/OPENAI_API_KEY

OpenClaw continua a richiedere claude-opus-4-6; LiteLLM gestisce l’instradamento.

Visualizzazione dell'utilizzo

# Informazioni sulla chiave
curl "http://localhost:4000/key/info" \
  -H "Authorization: Bearer sk-litellm-key"

# Registri di spesa
curl "http://localhost:4000/spend/logs" \
  -H "Authorization: Bearer $LITELLM_MASTER_KEY"

Note sul comportamento del proxy

Per impostazione predefinita, LiteLLM viene eseguito su http://localhost:4000.
OpenClaw si connette tramite l’endpoint /v1 compatibile con OpenAI in stile proxy di LiteLLM.
La strutturazione delle richieste riservata agli endpoint OpenAI nativi non si applica quando si usa un URL di base LiteLLM configurato: niente service_tier, niente store di Responses, niente suggerimenti per la cache dei prompt, niente strutturazione del payload relativa all’intensità di ragionamento di OpenAI.
Le intestazioni nascoste di attribuzione di OpenClaw (originator, version, User-Agent) vengono inviate solo agli endpoint OpenAI nativi verificati, quindi non vengono inserite in un URL di base LiteLLM personalizzato.

Per la configurazione generale dei provider e il comportamento di failover, consulta Provider di modelli.

Contenuti correlati

Documentazione di LiteLLM

Documentazione ufficiale di LiteLLM e riferimento dell’API.

Selezione del modello

Panoramica di tutti i provider, dei riferimenti ai modelli e del comportamento di failover.

Configurazione

Riferimento completo della configurazione.

Modelli

Come scegliere e configurare i modelli.

Overview

Concepts and configuration

Providers

Avvio rapido

Configurazione

Generazione di immagini

Funzionalità avanzate

Contenuti correlati

Documentazione di LiteLLM

Selezione del modello

Configurazione

Modelli

​Avvio rapido

​Configurazione

​Generazione di immagini

​Funzionalità avanzate

​Contenuti correlati

Documentazione di LiteLLM

Selezione del modello

Configurazione

Modelli

Avvio rapido

Configurazione

Generazione di immagini

Funzionalità avanzate

Contenuti correlati