Перейти к основному содержанию
SGLang обслуживает модели с открытыми весами через OpenAI-совместимый HTTP API. OpenClaw подключается к SGLang с помощью семейства провайдеров openai-completions с автообнаружением доступных моделей.
СвойствоЗначение
ID провайдераsglang
Pluginвстроенный, enabledByDefault: true
Переменная окружения authSGLANG_API_KEY (любое непустое значение, если на сервере нет auth)
Флаг онбординга--auth-choice sglang
APIOpenAI-совместимый (openai-completions)
Базовый URL по умолчаниюhttp://127.0.0.1:30000/v1
Заполнитель модели по умолчаниюsglang/Qwen/Qwen3-8B
Использование streamingДа (supportsStreamingUsage: true)
ЦеныПомечено как внешне-бесплатное (modelPricing.external: false)
OpenClaw также автоматически обнаруживает доступные модели из SGLang, когда вы включаете это через SGLANG_API_KEY. Используйте sglang/* в agents.defaults.models, чтобы discovery оставалось динамическим, когда вы также настраиваете пользовательский базовый URL SGLang. См. Обнаружение моделей (неявный провайдер) ниже.

​
Начало работы

1

Запустите SGLang

Запустите SGLang с OpenAI-совместимым сервером. Ваш базовый URL должен предоставлять endpoints /v1 (например, /v1/models, /v1/chat/completions). SGLang обычно работает на:
  • http://127.0.0.1:30000/v1
2

Задайте ключ API

Подойдет любое значение, если на вашем сервере не настроен auth:
export SGLANG_API_KEY="sglang-local"
3

Запустите онбординг или задайте модель напрямую

openclaw onboard
Или настройте модель вручную:
{
  agents: {
    defaults: {
      model: { primary: "sglang/your-model-id" },
    },
  },
}

​
Обнаружение моделей (неявный провайдер)

Когда задан SGLANG_API_KEY (или существует профиль auth) и вы не определяете models.providers.sglang, OpenClaw выполнит запрос:
  • GET http://127.0.0.1:30000/v1/models
и преобразует возвращенные ID в записи моделей.
Если вы явно задаете models.providers.sglang, OpenClaw по умолчанию использует объявленные вами модели. Добавьте "sglang/*": {} в agents.defaults.models, когда вы хотите, чтобы OpenClaw запрашивал endpoint /models этого настроенного провайдера и включал все объявленные модели SGLang.

​
Явная конфигурация (модели вручную)

Используйте явную конфигурацию, когда:
  • SGLang работает на другом хосте/порту.
  • Вы хотите закрепить значения contextWindow/maxTokens.
  • Ваш сервер требует настоящий ключ API (или вы хотите управлять заголовками).
{
  models: {
    providers: {
      sglang: {
        baseUrl: "http://127.0.0.1:30000/v1",
        apiKey: "${SGLANG_API_KEY}",
        api: "openai-completions",
        models: [
          {
            id: "your-model-id",
            name: "Local SGLang Model",
            reasoning: false,
            input: ["text"],
            cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 },
            contextWindow: 128000,
            maxTokens: 8192,
          },
        ],
      },
    },
  },
}

​
Расширенная конфигурация

SGLang рассматривается как proxy-style OpenAI-совместимый backend /v1, а не как нативный endpoint OpenAI.
ПоведениеSGLang
Формирование запросов только для OpenAIНе применяется
service_tier, Responses store, подсказки prompt-cacheНе отправляются
Формирование payload для reasoning-compatНе применяется
Скрытые заголовки атрибуции (originator, version, User-Agent)Не внедряются для пользовательских базовых URL SGLang
Сервер недоступенПроверьте, что сервер запущен и отвечает:
curl http://127.0.0.1:30000/v1/models
Ошибки authЕсли запросы завершаются ошибками auth, задайте настоящий SGLANG_API_KEY, который соответствует конфигурации вашего сервера, или явно настройте провайдера в models.providers.sglang.
Если вы запускаете SGLang без аутентификации, любого непустого значения для SGLANG_API_KEY достаточно, чтобы включить обнаружение моделей.

​
Связанные материалы

Выбор модели

Выбор провайдеров, ссылок на модели и поведения failover.

Справочник по конфигурации

Полная схема конфигурации, включая записи провайдеров.