SGLang

SGLang обслуживает модели с открытыми весами через HTTP API, совместимый с OpenAI. OpenClaw подключается к SGLang с помощью семейства провайдеров openai-completions с автоматическим обнаружением доступных моделей.

Свойство	Значение
Идентификатор провайдера	`sglang`
Плагин	встроенный, `enabledByDefault: true`
Переменная окружения для аутентификации	`SGLANG_API_KEY` (любое непустое значение, если сервер не использует аутентификацию)
Флаг первоначальной настройки	`--auth-choice sglang`
API	совместимый с OpenAI (`openai-completions`)
Базовый URL по умолчанию	`http://127.0.0.1:30000/v1`
Заполнитель модели по умолчанию	`sglang/Qwen/Qwen3-8B`
Использование потоковой передачи	Да (`supportsStreamingUsage: true`)
Тарификация	Помечено как бесплатное внешнее использование (`modelPricing.external: false`)

OpenClaw также автоматически обнаруживает доступные модели в SGLang, когда вы включаете эту возможность с помощью SGLANG_API_KEY. Используйте sglang/* в agents.defaults.models, чтобы обнаружение оставалось динамическим, если вы также настраиваете пользовательский базовый URL SGLang. См. раздел Обнаружение моделей (неявный провайдер) ниже.

Начало работы

Запустите SGLang

Запустите SGLang с сервером, совместимым с OpenAI. Ваш базовый URL должен предоставлять конечные точки /v1 (например, /v1/models, /v1/chat/completions). Обычно SGLang работает по адресу:

http://127.0.0.1:30000/v1

Задайте ключ API

Если на вашем сервере не настроена аутентификация, подойдет любое значение:

export SGLANG_API_KEY="sglang-local"

Выполните первоначальную настройку или задайте модель напрямую

openclaw onboard

Либо настройте модель вручную:

{
  agents: {
    defaults: {
      model: { primary: "sglang/your-model-id" },
    },
  },
}

Обнаружение моделей (неявный провайдер)

Если задано SGLANG_API_KEY (или существует профиль аутентификации) и вы не определили models.providers.sglang, OpenClaw выполняет запрос к:

GET http://127.0.0.1:30000/v1/models

и преобразует возвращенные идентификаторы в записи моделей.

Если вы явно зададите models.providers.sglang, OpenClaw по умолчанию будет использовать объявленные вами модели. Добавьте "sglang/*": {} в agents.defaults.models, если вы хотите, чтобы OpenClaw запрашивал конечную точку /models настроенного провайдера и включал все объявленные модели SGLang.

Явная конфигурация (ручное задание моделей)

Используйте явную конфигурацию, если:

SGLang работает на другом узле или порте.
Вы хотите зафиксировать значения contextWindow/maxTokens.
Ваш сервер требует настоящий ключ API (или вы хотите управлять заголовками).

{
  models: {
    providers: {
      sglang: {
        baseUrl: "http://127.0.0.1:30000/v1",
        apiKey: "${SGLANG_API_KEY}",
        api: "openai-completions",
        models: [
          {
            id: "your-model-id",
            name: "Local SGLang Model",
            reasoning: false,
            input: ["text"],
            cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 },
            contextWindow: 128000,
            maxTokens: 8192,
          },
        ],
      },
    },
  },
}

Расширенная конфигурация

Поведение в режиме прокси

SGLang рассматривается как прокси-серверная часть /v1, совместимая с OpenAI, а не как нативная конечная точка OpenAI.

Поведение	SGLang
Формирование запросов только для OpenAI	Не применяется
`service_tier`, Responses `store`, подсказки для кэша промптов	Не отправляются
Формирование полезной нагрузки для совместимости с рассуждениями	Не применяется
Скрытые заголовки атрибуции (`originator`, `version`, `User-Agent`)	Не добавляются для пользовательских базовых URL SGLang

Устранение неполадок

Сервер недоступенУбедитесь, что сервер запущен и отвечает:

curl http://127.0.0.1:30000/v1/models

Ошибки аутентификацииЕсли запросы завершаются ошибками аутентификации, задайте настоящий SGLANG_API_KEY, соответствующий конфигурации вашего сервера, либо явно настройте провайдера в models.providers.sglang.

Если вы запускаете SGLang без аутентификации, любого непустого значения SGLANG_API_KEY достаточно, чтобы включить обнаружение моделей.

Связанные материалы

Выбор модели

Выбор провайдеров, ссылок на модели и поведения при переключении после сбоя.

Справочник по конфигурации

Полная схема конфигурации, включая записи провайдеров.

Overview

Concepts and configuration

Providers

Начало работы

Обнаружение моделей (неявный провайдер)

Явная конфигурация (ручное задание моделей)

Расширенная конфигурация

Связанные материалы

Выбор модели

Справочник по конфигурации

​Начало работы

​Обнаружение моделей (неявный провайдер)

​Явная конфигурация (ручное задание моделей)

​Расширенная конфигурация

​Связанные материалы

Выбор модели

Справочник по конфигурации

Начало работы

Обнаружение моделей (неявный провайдер)

Явная конфигурация (ручное задание моделей)

Расширенная конфигурация

Связанные материалы