SGLang

SGLang stellt Open-Weight-Modelle über eine OpenAI-kompatible HTTP-API bereit. OpenClaw stellt über die Provider-Familie openai-completions eine Verbindung zu SGLang her und erkennt verfügbare Modelle automatisch.

Eigenschaft	Wert
Provider-ID	`sglang`
Plugin	gebündelt, `enabledByDefault: true`
Authentifizierungs-Umgebungsvariable	`SGLANG_API_KEY` (beliebiger nicht leerer Wert, wenn der Server keine Authentifizierung verwendet)
Onboarding-Flag	`--auth-choice sglang`
API	OpenAI-kompatibel (`openai-completions`)
Standard-Basis-URL	`http://127.0.0.1:30000/v1`
Platzhalter für Standardmodell	`sglang/Qwen/Qwen3-8B`
Streaming-Nutzung	Ja (`supportsStreamingUsage: true`)
Preisgestaltung	Als extern kostenlos gekennzeichnet (`modelPricing.external: false`)

OpenClaw erkennt verfügbare Modelle von SGLang außerdem automatisch, wenn Sie sich mit SGLANG_API_KEY dafür entscheiden. Verwenden Sie sglang/* in agents.defaults.models, damit die Erkennung dynamisch bleibt, wenn Sie zugleich eine benutzerdefinierte SGLang-Basis-URL konfigurieren. Siehe unten Modellerkennung (impliziter Provider).

Erste Schritte

SGLang starten

Starten Sie SGLang mit einem OpenAI-kompatiblen Server. Ihre Basis-URL sollte /v1-Endpunkte bereitstellen (zum Beispiel /v1/models, /v1/chat/completions). SGLang wird üblicherweise ausgeführt unter:

http://127.0.0.1:30000/v1

API-Schlüssel festlegen

Wenn auf Ihrem Server keine Authentifizierung konfiguriert ist, funktioniert ein beliebiger Wert:

export SGLANG_API_KEY="sglang-local"

Onboarding ausführen oder ein Modell direkt festlegen

openclaw onboard

Oder konfigurieren Sie das Modell manuell:

{
  agents: {
    defaults: {
      model: { primary: "sglang/your-model-id" },
    },
  },
}

Modellerkennung (impliziter Provider)

Wenn SGLANG_API_KEY festgelegt ist (oder ein Authentifizierungsprofil vorhanden ist) und Sie models.providers.sglang nicht definieren, fragt OpenClaw Folgendes ab:

GET http://127.0.0.1:30000/v1/models

und wandelt die zurückgegebenen IDs in Modelleinträge um.

Wenn Sie models.providers.sglang explizit festlegen, verwendet OpenClaw standardmäßig die von Ihnen deklarierten Modelle. Fügen Sie "sglang/*": {} zu agents.defaults.models hinzu, wenn OpenClaw den /models-Endpunkt dieses konfigurierten Providers abfragen und alle angekündigten SGLang-Modelle einbeziehen soll.

Explizite Konfiguration (manuelle Modelle)

Verwenden Sie eine explizite Konfiguration, wenn:

SGLang auf einem anderen Host/Port ausgeführt wird.
Sie die Werte für contextWindow/maxTokens fest vorgeben möchten.
Ihr Server einen echten API-Schlüssel erfordert (oder Sie die Header steuern möchten).

{
  models: {
    providers: {
      sglang: {
        baseUrl: "http://127.0.0.1:30000/v1",
        apiKey: "${SGLANG_API_KEY}",
        api: "openai-completions",
        models: [
          {
            id: "your-model-id",
            name: "Local SGLang Model",
            reasoning: false,
            input: ["text"],
            cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 },
            contextWindow: 128000,
            maxTokens: 8192,
          },
        ],
      },
    },
  },
}

Erweiterte Konfiguration

Proxy-ähnliches Verhalten

SGLang wird als Proxy-ähnliches OpenAI-kompatibles /v1-Backend behandelt, nicht als nativer OpenAI-Endpunkt.

Verhalten	SGLang
Nur für OpenAI vorgesehene Anfrageaufbereitung	Nicht angewendet
`service_tier`, Responses `store`, Hinweise zum Prompt-Cache	Nicht gesendet
Aufbereitung der Nutzlast für Reasoning-Kompatibilität	Nicht angewendet
Verborgene Zuordnungs-Header (`originator`, `version`, `User-Agent`)	Werden bei benutzerdefinierten SGLang-Basis-URLs nicht eingefügt

Fehlerbehebung

Server nicht erreichbarVergewissern Sie sich, dass der Server ausgeführt wird und antwortet:

curl http://127.0.0.1:30000/v1/models

AuthentifizierungsfehlerWenn Anfragen aufgrund von Authentifizierungsfehlern fehlschlagen, legen Sie einen echten SGLANG_API_KEY fest, der Ihrer Serverkonfiguration entspricht, oder konfigurieren Sie den Provider explizit unter models.providers.sglang.

Wenn Sie SGLang ohne Authentifizierung ausführen, genügt ein beliebiger nicht leerer Wert für SGLANG_API_KEY, um die Modellerkennung zu aktivieren.

Modellauswahl

Auswahl von Providern, Modellreferenzen und Failover-Verhalten.

Konfigurationsreferenz

Vollständiges Konfigurationsschema einschließlich Provider-Einträgen.

Overview

Concepts and configuration

Providers

Erste Schritte

Modellerkennung (impliziter Provider)

Explizite Konfiguration (manuelle Modelle)

Erweiterte Konfiguration

Verwandte Themen

Modellauswahl

Konfigurationsreferenz

​Erste Schritte

​Modellerkennung (impliziter Provider)

​Explizite Konfiguration (manuelle Modelle)

​Erweiterte Konfiguration

​Verwandte Themen

Modellauswahl

Konfigurationsreferenz

Erste Schritte

Modellerkennung (impliziter Provider)

Explizite Konfiguration (manuelle Modelle)

Erweiterte Konfiguration

Verwandte Themen