Pular para o conteúdo principal
SGLang serve modelos de peso aberto por meio de uma API HTTP compatível com OpenAI. OpenClaw se conecta ao SGLang usando a família de provedores openai-completions com descoberta automática dos modelos disponíveis.
PropriedadeValor
ID do provedorsglang
Pluginincluído, enabledByDefault: true
Variável de ambiente de authSGLANG_API_KEY (qualquer valor não vazio se o servidor não tiver auth)
Flag de onboarding--auth-choice sglang
APIcompatível com OpenAI (openai-completions)
URL base padrãohttp://127.0.0.1:30000/v1
Placeholder de modelo padrãosglang/Qwen/Qwen3-8B
Uso de streamingSim (supportsStreamingUsage: true)
PreçosMarcado como externo gratuito (modelPricing.external: false)
OpenClaw também descobre automaticamente os modelos disponíveis do SGLang quando você opta por isso com SGLANG_API_KEY. Use sglang/* em agents.defaults.models para manter a descoberta dinâmica quando você também configura uma URL base personalizada do SGLang. Veja Descoberta de modelos (provedor implícito) abaixo.

Primeiros passos

1

Iniciar o SGLang

Inicie o SGLang com um servidor compatível com OpenAI. Sua URL base deve expor endpoints /v1 (por exemplo, /v1/models, /v1/chat/completions). SGLang normalmente é executado em:
  • http://127.0.0.1:30000/v1
2

Definir uma chave de API

Qualquer valor funciona se nenhuma auth estiver configurada no seu servidor:
export SGLANG_API_KEY="sglang-local"
3

Executar o onboarding ou definir um modelo diretamente

openclaw onboard
Ou configure o modelo manualmente:
{
  agents: {
    defaults: {
      model: { primary: "sglang/your-model-id" },
    },
  },
}

Descoberta de modelos (provedor implícito)

Quando SGLANG_API_KEY está definido (ou existe um perfil de auth) e você não define models.providers.sglang, o OpenClaw consultará:
  • GET http://127.0.0.1:30000/v1/models
e converterá os IDs retornados em entradas de modelo.
Se você definir models.providers.sglang explicitamente, o OpenClaw usará seus modelos declarados por padrão. Adicione "sglang/*": {} a agents.defaults.models quando você quiser que o OpenClaw consulte o endpoint /models desse provedor configurado e inclua todos os modelos SGLang anunciados.

Configuração explícita (modelos manuais)

Use configuração explícita quando:
  • O SGLang é executado em outro host/porta.
  • Você quer fixar valores de contextWindow/maxTokens.
  • Seu servidor exige uma chave de API real (ou você quer controlar headers).
{
  models: {
    providers: {
      sglang: {
        baseUrl: "http://127.0.0.1:30000/v1",
        apiKey: "${SGLANG_API_KEY}",
        api: "openai-completions",
        models: [
          {
            id: "your-model-id",
            name: "Local SGLang Model",
            reasoning: false,
            input: ["text"],
            cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 },
            contextWindow: 128000,
            maxTokens: 8192,
          },
        ],
      },
    },
  },
}

Configuração avançada

SGLang é tratado como um backend /v1 compatível com OpenAI no estilo proxy, não como um endpoint nativo da OpenAI.
ComportamentoSGLang
Formatação de requisição exclusiva da OpenAINão aplicada
service_tier, Responses store, dicas de cache de promptNão enviados
Formatação de payload compatível com reasoningNão aplicada
Headers de atribuição ocultos (originator, version, User-Agent)Não injetados em URLs base personalizadas do SGLang
Servidor inacessívelVerifique se o servidor está em execução e respondendo:
curl http://127.0.0.1:30000/v1/models
Erros de authSe as requisições falharem com erros de auth, defina um SGLANG_API_KEY real que corresponda à configuração do seu servidor, ou configure o provedor explicitamente em models.providers.sglang.
Se você executar o SGLang sem autenticação, qualquer valor não vazio para SGLANG_API_KEY é suficiente para optar pela descoberta de modelos.

Relacionado

Seleção de modelo

Escolha de provedores, referências de modelo e comportamento de failover.

Referência de configuração

Esquema completo de configuração, incluindo entradas de provedor.