Skip to main content
SGLang sirve modelos de pesos abiertos mediante una API HTTP compatible con OpenAI. OpenClaw se conecta a SGLang mediante la familia de proveedores openai-completions, con detección automática de los modelos disponibles. OpenClaw también detecta automáticamente los modelos disponibles en SGLang al habilitarlo con SGLANG_API_KEY. Use sglang/* en agents.defaults.models para mantener la detección dinámica cuando también configure una URL base personalizada de SGLang. Consulte Detección de modelos (proveedor implícito) más adelante.

Primeros pasos

1

Iniciar SGLang

Inicie SGLang con un servidor compatible con OpenAI. La URL base debe exponer los endpoints /v1 (por ejemplo, /v1/models, /v1/chat/completions). SGLang suele ejecutarse en:
  • http://127.0.0.1:30000/v1
2

Establecer una clave de API

Cualquier valor funciona si no hay autenticación configurada en el servidor:
3

Ejecutar la incorporación o establecer un modelo directamente

También puede configurar el modelo manualmente:

Detección de modelos (proveedor implícito)

Cuando se establece SGLANG_API_KEY (o existe un perfil de autenticación) y no se define models.providers.sglang, OpenClaw consulta:
  • GET http://127.0.0.1:30000/v1/models
y convierte los identificadores devueltos en entradas de modelos.
Si establece models.providers.sglang explícitamente, OpenClaw utiliza de forma predeterminada los modelos declarados. Añada "sglang/*": {} a agents.defaults.models cuando desee que OpenClaw consulte el endpoint /models de ese proveedor configurado e incluya todos los modelos de SGLang anunciados.

Configuración explícita (modelos manuales)

Use una configuración explícita cuando:
  • SGLang se ejecute en otro host o puerto.
  • Desee fijar los valores de contextWindow/maxTokens.
  • El servidor requiera una clave de API real (o desee controlar los encabezados).

Configuración avanzada

SGLang se trata como un backend /v1 compatible con OpenAI y de tipo proxy, no como un endpoint nativo de OpenAI.
No se puede acceder al servidorVerifique que el servidor esté en ejecución y responda:
Errores de autenticaciónSi las solicitudes fallan con errores de autenticación, establezca un valor real para SGLANG_API_KEY que coincida con la configuración del servidor o configure el proveedor explícitamente en models.providers.sglang.
Si ejecuta SGLang sin autenticación, cualquier valor no vacío para SGLANG_API_KEY es suficiente para habilitar la detección de modelos.

Contenido relacionado

Selección de modelos

Selección de proveedores, referencias de modelos y comportamiento de conmutación por error.

Referencia de configuración

Esquema de configuración completo, incluidas las entradas de proveedores.