跳轉到主要內容

Documentation Index

Fetch the complete documentation index at: https://docs2.openclaw.ai/llms.txt

Use this file to discover all available pages before exploring further.

SGLang 透過相容 OpenAI 的 HTTP API 提供開放權重模型服務。OpenClaw 使用 openai-completions 提供者系列連線至 SGLang，並自動探索可用模型。
屬性值
提供者 IDsglang
Plugin隨附，enabledByDefault: true
驗證環境變數SGLANG_API_KEY（如果伺服器沒有驗證，可使用任何非空值）
Onboarding 旗標--auth-choice sglang
API相容 OpenAI（openai-completions）
預設基礎 URLhttp://127.0.0.1:30000/v1
預設模型預留位置sglang/Qwen/Qwen3-8B
串流用量是（supportsStreamingUsage: true）
定價標記為外部免費（modelPricing.external: false）
當你使用 SGLANG_API_KEY 選擇啟用時，OpenClaw 也會從 SGLang 自動探索可用模型。當你同時設定自訂 SGLang 基礎 URL 時，請在 agents.defaults.models 中使用 sglang/*，以保持動態探索。請參閱下方的模型探索（隱式提供者）。

​
開始使用

1

啟動 SGLang

使用相容 OpenAI 的伺服器啟動 SGLang。你的基礎 URL 應公開 /v1 端點（例如 /v1/models、/v1/chat/completions）。SGLang 通常執行於：
  • http://127.0.0.1:30000/v1
2

設定 API 金鑰

如果你的伺服器未設定驗證，任何值都可使用：
export SGLANG_API_KEY="sglang-local"
3

執行 onboarding 或直接設定模型

openclaw onboard
或手動設定模型：
{
  agents: {
    defaults: {
      model: { primary: "sglang/your-model-id" },
    },
  },
}

​
模型探索（隱式提供者）

當設定了 SGLANG_API_KEY（或存在驗證設定檔），且你沒有 定義 models.providers.sglang 時，OpenClaw 會查詢：
  • GET http://127.0.0.1:30000/v1/models
並將傳回的 ID 轉換為模型項目。
如果你明確設定 models.providers.sglang，OpenClaw 預設會使用你宣告的 模型。當你想讓 OpenClaw 查詢該已設定提供者的 /models 端點，並納入 所有公告的 SGLang 模型時，請將 "sglang/*": {} 加到 agents.defaults.models。

​
明確設定（手動模型）

在下列情況使用明確設定：
  • SGLang 在不同的主機/連接埠上執行。
  • 你想固定 contextWindow/maxTokens 值。
  • 你的伺服器需要真正的 API 金鑰（或你想控制標頭）。
{
  models: {
    providers: {
      sglang: {
        baseUrl: "http://127.0.0.1:30000/v1",
        apiKey: "${SGLANG_API_KEY}",
        api: "openai-completions",
        models: [
          {
            id: "your-model-id",
            name: "Local SGLang Model",
            reasoning: false,
            input: ["text"],
            cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 },
            contextWindow: 128000,
            maxTokens: 8192,
          },
        ],
      },
    },
  },
}

​
進階設定

SGLang 會被視為代理樣式、相容 OpenAI 的 /v1 後端，而不是 原生 OpenAI 端點。
行為SGLang
僅限 OpenAI 的請求塑形未套用
service_tier、Responses store、提示快取提示未傳送
推理相容酬載塑形未套用
隱藏歸因標頭（originator、version、User-Agent）在自訂 SGLang 基礎 URL 上不會注入
無法連線至伺服器確認伺服器正在執行且有回應：
curl http://127.0.0.1:30000/v1/models
驗證錯誤如果請求因驗證錯誤而失敗，請設定符合伺服器設定的真正 SGLANG_API_KEY， 或在 models.providers.sglang 下明確設定提供者。
如果你在沒有驗證的情況下執行 SGLang，任何非空的 SGLANG_API_KEY 值都足以選擇啟用模型探索。

​
相關內容

模型選擇

選擇提供者、模型參照與容錯移轉行為。

設定參考

完整設定結構描述，包含提供者項目。