SGLang

O SGLang disponibiliza modelos de pesos abertos por meio de uma API HTTP compatível com a OpenAI. O OpenClaw se conecta ao SGLang usando a família de provedores openai-completions, com descoberta automática dos modelos disponíveis.

Propriedade	Valor
ID do provedor	`sglang`
Plugin	incluído, `enabledByDefault: true`
Variável de ambiente de autenticação	`SGLANG_API_KEY` (qualquer valor não vazio se o servidor não tiver autenticação)
Opção de integração inicial	`--auth-choice sglang`
API	compatível com a OpenAI (`openai-completions`)
URL base padrão	`http://127.0.0.1:30000/v1`
Espaço reservado do modelo padrão	`sglang/Qwen/Qwen3-8B`
Uso durante streaming	Sim (`supportsStreamingUsage: true`)
Preços	Marcado como externo e gratuito (`modelPricing.external: false`)

O OpenClaw também descobre automaticamente os modelos disponíveis no SGLang quando você habilita a integração com SGLANG_API_KEY. Use sglang/* em agents.defaults.models para manter a descoberta dinâmica quando também configurar uma URL base personalizada do SGLang. Consulte Descoberta de modelos (provedor implícito) abaixo.

Primeiros passos

Iniciar o SGLang

Inicie o SGLang com um servidor compatível com a OpenAI. Sua URL base deve expor endpoints /v1 (por exemplo, /v1/models, /v1/chat/completions). O SGLang geralmente é executado em:

http://127.0.0.1:30000/v1

Definir uma chave de API

Qualquer valor funciona se nenhuma autenticação estiver configurada no servidor:

export SGLANG_API_KEY="sglang-local"

Executar a integração inicial ou definir um modelo diretamente

openclaw onboard

Ou configure o modelo manualmente:

{
  agents: {
    defaults: {
      model: { primary: "sglang/your-model-id" },
    },
  },
}

Descoberta de modelos (provedor implícito)

Quando SGLANG_API_KEY está definida (ou existe um perfil de autenticação) e você não define models.providers.sglang, o OpenClaw consulta:

GET http://127.0.0.1:30000/v1/models

e converte os IDs retornados em entradas de modelo.

Se você definir models.providers.sglang explicitamente, o OpenClaw usará por padrão os modelos declarados. Adicione "sglang/*": {} a agents.defaults.models quando quiser que o OpenClaw consulte o endpoint /models desse provedor configurado e inclua todos os modelos SGLang anunciados.

Configuração explícita (modelos manuais)

Use a configuração explícita quando:

O SGLang for executado em outro host ou porta.
Você quiser fixar os valores de contextWindow/maxTokens.
Seu servidor exigir uma chave de API real (ou você quiser controlar os cabeçalhos).

{
  models: {
    providers: {
      sglang: {
        baseUrl: "http://127.0.0.1:30000/v1",
        apiKey: "${SGLANG_API_KEY}",
        api: "openai-completions",
        models: [
          {
            id: "your-model-id",
            name: "Modelo SGLang local",
            reasoning: false,
            input: ["text"],
            cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 },
            contextWindow: 128000,
            maxTokens: 8192,
          },
        ],
      },
    },
  },
}

Configuração avançada

Comportamento de proxy

O SGLang é tratado como um backend /v1 compatível com a OpenAI no estilo de proxy, e não como um endpoint nativo da OpenAI.

Comportamento	SGLang
Formatação de solicitações exclusiva da OpenAI	Não aplicada
`service_tier`, `store` da Responses, dicas de cache de prompt	Não enviados
Formatação da carga útil para compatibilidade com raciocínio	Não aplicada
Cabeçalhos ocultos de atribuição (`originator`, `version`, `User-Agent`)	Não injetados em URLs base personalizadas do SGLang

Solução de problemas

Servidor inacessívelVerifique se o servidor está em execução e respondendo:

curl http://127.0.0.1:30000/v1/models

Erros de autenticaçãoSe as solicitações falharem com erros de autenticação, defina uma SGLANG_API_KEY real que corresponda à configuração do servidor ou configure o provedor explicitamente em models.providers.sglang.

Se você executar o SGLang sem autenticação, qualquer valor não vazio para SGLANG_API_KEY será suficiente para habilitar a descoberta de modelos.

Overview

Concepts and configuration

Providers

Primeiros passos

Descoberta de modelos (provedor implícito)

Configuração explícita (modelos manuais)

Configuração avançada

Relacionado

Seleção de modelos

Referência de configuração

​Primeiros passos

​Descoberta de modelos (provedor implícito)

​Configuração explícita (modelos manuais)

​Configuração avançada

​Relacionado

Seleção de modelos

Referência de configuração

Primeiros passos

Descoberta de modelos (provedor implícito)

Configuração explícita (modelos manuais)

Configuração avançada

Relacionado