LiteLLM

LiteLLM est une passerelle LLM open source offrant une API unifiée pour plus de 100 fournisseurs de modèles. Faites transiter OpenClaw par LiteLLM pour centraliser le suivi des coûts, la journalisation, les clés virtuelles avec des limites de dépenses et le basculement entre services principaux, sans modifier la configuration d’OpenClaw.

Démarrage rapide

Configuration initiale (recommandée)
Configuration manuelle

openclaw onboard --auth-choice litellm-api-key

Pour une configuration non interactive avec un proxy distant, transmettez explicitement l’URL du proxy :

openclaw onboard --non-interactive --accept-risk --auth-choice litellm-api-key \
  --litellm-api-key "$LITELLM_API_KEY" --custom-base-url "https://litellm.example/v1"

Démarrer le proxy LiteLLM

pip install 'litellm[proxy]'
litellm --model claude-opus-4-6

Connecter OpenClaw à LiteLLM

export LITELLM_API_KEY="your-litellm-key"
openclaw

Configuration

{
  models: {
    providers: {
      litellm: {
        baseUrl: "http://localhost:4000",
        apiKey: "${LITELLM_API_KEY}",
        api: "openai-completions",
        models: [
          {
            id: "claude-opus-4-6",
            name: "Claude Opus 4.6",
            reasoning: true,
            input: ["text", "image"],
            contextWindow: 200000,
            maxTokens: 64000,
          },
          {
            id: "gpt-4o",
            name: "GPT-4o",
            reasoning: false,
            input: ["text", "image"],
            contextWindow: 128000,
            maxTokens: 8192,
          },
        ],
      },
    },
  },
  agents: {
    defaults: {
      model: { primary: "litellm/claude-opus-4-6" },
    },
  },
}

Le modèle par défaut écrit lors de la configuration initiale est litellm/claude-opus-4-6.

Génération d’images

LiteLLM peut prendre en charge l’outil image_generate au moyen des routes compatibles avec OpenAI /images/generations et /images/edits. Le modèle d’image par défaut est gpt-image-2 ; configurez-en un autre sous agents.defaults.imageGenerationModel :

{
  models: {
    providers: {
      litellm: {
        baseUrl: "http://localhost:4000",
        apiKey: "${LITELLM_API_KEY}",
      },
    },
  },
  agents: {
    defaults: {
      imageGenerationModel: {
        primary: "litellm/gpt-image-2",
        timeoutMs: 180_000,
      },
    },
  },
}

Les URL LiteLLM en local loopback (http://localhost:4000, 127.0.0.1, ::1, host.docker.internal) fonctionnent sans dérogation globale pour les réseaux privés. Pour un proxy hébergé sur le réseau local, définissez models.providers.litellm.request.allowPrivateNetwork: true, car la clé d’API est envoyée à cet hôte.

Fonctions avancées

Clés virtuelles

Créez une clé dédiée à OpenClaw avec des limites de dépenses :

curl -X POST "http://localhost:4000/key/generate" \
  -H "Authorization: Bearer $LITELLM_MASTER_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "key_alias": "openclaw",
    "max_budget": 50.00,
    "budget_duration": "monthly"
  }'

Utilisez la clé générée comme LITELLM_API_KEY.

Routage des modèles

LiteLLM peut acheminer les requêtes de modèles vers différents services principaux. Effectuez la configuration dans le fichier config.yaml de LiteLLM :

model_list:
  - model_name: claude-opus-4-6
    litellm_params:
      model: claude-opus-4-6
      api_key: os.environ/ANTHROPIC_API_KEY

  - model_name: gpt-4o
    litellm_params:
      model: gpt-4o
      api_key: os.environ/OPENAI_API_KEY

OpenClaw continue de demander claude-opus-4-6 ; LiteLLM gère le routage.

Consulter l’utilisation

# Key info
curl "http://localhost:4000/key/info" \
  -H "Authorization: Bearer sk-litellm-key"

# Spend logs
curl "http://localhost:4000/spend/logs" \
  -H "Authorization: Bearer $LITELLM_MASTER_KEY"

Remarques sur le comportement du proxy

Par défaut, LiteLLM s’exécute sur http://localhost:4000.
OpenClaw se connecte via le point de terminaison /v1 du proxy LiteLLM, compatible avec OpenAI.
La mise en forme des requêtes réservée aux points de terminaison OpenAI natifs ne s’applique pas lorsqu’une URL de base LiteLLM est configurée : aucun service_tier, aucun store Responses, aucune indication de cache des prompts et aucune mise en forme de la charge utile liée au niveau d’effort de raisonnement OpenAI.
Les en-têtes d’attribution OpenClaw masqués (originator, version, User-Agent) sont envoyés uniquement aux points de terminaison OpenAI natifs vérifiés ; ils ne sont donc pas injectés avec une URL de base LiteLLM personnalisée.

Pour la configuration générale des fournisseurs et le comportement de basculement, consultez Fournisseurs de modèles.

Contenu connexe

Documentation de LiteLLM

Documentation officielle de LiteLLM et référence de l’API.

Sélection des modèles

Présentation de tous les fournisseurs, des références de modèles et du comportement de basculement.

Configuration

Référence complète de la configuration.

Modèles

Comment choisir et configurer les modèles.

Overview

Concepts and configuration

Providers

Démarrage rapide

Configuration

Génération d’images

Fonctions avancées

Contenu connexe

Documentation de LiteLLM

Sélection des modèles

Configuration

Modèles

​Démarrage rapide

​Configuration

​Génération d’images

​Fonctions avancées

​Contenu connexe

Documentation de LiteLLM

Sélection des modèles

Configuration

Modèles

Démarrage rapide

Configuration

Génération d’images

Fonctions avancées

Contenu connexe