SGLang

SGLang, açık ağırlıklı modelleri OpenAI uyumlu bir HTTP API üzerinden sunar. OpenClaw, kullanılabilir modellerin otomatik keşfiyle openai-completions sağlayıcı ailesini kullanarak SGLang’a bağlanır.

Özellik	Değer
Sağlayıcı kimliği	`sglang`
Plugin	paketle birlikte sunulur, `enabledByDefault: true`
Kimlik doğrulama ortam değişkeni	`SGLANG_API_KEY` (sunucuda kimlik doğrulama yoksa boş olmayan herhangi bir değer)
İlk kurulum bayrağı	`--auth-choice sglang`
API	OpenAI uyumlu (`openai-completions`)
Varsayılan temel URL	`http://127.0.0.1:30000/v1`
Varsayılan model yer tutucusu	`sglang/Qwen/Qwen3-8B`
Akış kullanımı	Evet (`supportsStreamingUsage: true`)
Fiyatlandırma	Harici ve ücretsiz olarak işaretlenir (`modelPricing.external: false`)

OpenClaw ayrıca SGLANG_API_KEY ile etkinleştirdiğinizde SGLang’daki kullanılabilir modelleri otomatik olarak keşfeder. Özel bir SGLang temel URL’si de yapılandırırken keşfi dinamik tutmak için agents.defaults.models içinde sglang/* kullanın. Aşağıdaki Model keşfi (örtük sağlayıcı) bölümüne bakın.

Başlarken

SGLang'ı başlatın

SGLang’ı OpenAI uyumlu bir sunucuyla başlatın. Temel URL’niz /v1 uç noktalarını sunmalıdır (örneğin /v1/models, /v1/chat/completions). SGLang genellikle şurada çalışır:

http://127.0.0.1:30000/v1

Bir API anahtarı ayarlayın

Sunucunuzda kimlik doğrulama yapılandırılmamışsa herhangi bir değer kullanılabilir:

export SGLANG_API_KEY="sglang-local"

İlk kurulumu çalıştırın veya doğrudan bir model ayarlayın

openclaw onboard

Alternatif olarak modeli elle yapılandırın:

{
  agents: {
    defaults: {
      model: { primary: "sglang/your-model-id" },
    },
  },
}

Model keşfi (örtük sağlayıcı)

SGLANG_API_KEY ayarlandığında (veya bir kimlik doğrulama profili mevcut olduğunda) ve models.providers.sglang tanımlanmadığında OpenClaw şunu sorgular:

GET http://127.0.0.1:30000/v1/models

ve döndürülen kimlikleri model girdilerine dönüştürür.

models.providers.sglang değerini açıkça ayarlarsanız OpenClaw varsayılan olarak bildirdiğiniz modelleri kullanır. OpenClaw’ın yapılandırılmış sağlayıcının /models uç noktasını sorgulamasını ve duyurulan tüm SGLang modellerini dahil etmesini istediğinizde agents.defaults.models öğesine "sglang/*": {} ekleyin.

Açık yapılandırma (elle tanımlanan modeller)

Aşağıdaki durumlarda açık yapılandırma kullanın:

SGLang farklı bir ana makine/bağlantı noktasında çalışıyorsa.
contextWindow/maxTokens değerlerini sabitlemek istiyorsanız.
Sunucunuz gerçek bir API anahtarı gerektiriyorsa (veya üstbilgileri denetlemek istiyorsanız).

{
  models: {
    providers: {
      sglang: {
        baseUrl: "http://127.0.0.1:30000/v1",
        apiKey: "${SGLANG_API_KEY}",
        api: "openai-completions",
        models: [
          {
            id: "your-model-id",
            name: "Local SGLang Model",
            reasoning: false,
            input: ["text"],
            cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 },
            contextWindow: 128000,
            maxTokens: 8192,
          },
        ],
      },
    },
  },
}

Gelişmiş yapılandırma

Proxy tarzı davranış

SGLang, yerel bir OpenAI uç noktası olarak değil, proxy tarzı OpenAI uyumlu bir /v1 arka ucu olarak değerlendirilir.

Davranış	SGLang
Yalnızca OpenAI’a özgü istek biçimlendirmesi	Uygulanmaz
`service_tier`, Responses `store`, istem önbelleği ipuçları	Gönderilmez
Akıl yürütme uyumluluğu yük biçimlendirmesi	Uygulanmaz
Gizli ilişkilendirme üstbilgileri (`originator`, `version`, `User-Agent`)	Özel SGLang temel URL’lerine eklenmez

Sorun giderme

Sunucuya erişilemiyorSunucunun çalıştığını ve yanıt verdiğini doğrulayın:

curl http://127.0.0.1:30000/v1/models

Kimlik doğrulama hatalarıİstekler kimlik doğrulama hatalarıyla başarısız olursa sunucu yapılandırmanızla eşleşen gerçek bir SGLANG_API_KEY ayarlayın veya sağlayıcıyı models.providers.sglang altında açıkça yapılandırın.

SGLang’ı kimlik doğrulama olmadan çalıştırıyorsanız model keşfini etkinleştirmek için SGLANG_API_KEY değişkeninde boş olmayan herhangi bir değer yeterlidir.

İlgili içerikler

Model seçimi

Sağlayıcıları, model başvurularını ve yük devretme davranışını seçme.

Yapılandırma referansı

Sağlayıcı girdilerini de içeren eksiksiz yapılandırma şeması.

Overview

Concepts and configuration

Providers

Başlarken

Model keşfi (örtük sağlayıcı)

Açık yapılandırma (elle tanımlanan modeller)

Gelişmiş yapılandırma

İlgili içerikler

Model seçimi

Yapılandırma referansı

​Başlarken

​Model keşfi (örtük sağlayıcı)

​Açık yapılandırma (elle tanımlanan modeller)

​Gelişmiş yapılandırma

​İlgili içerikler

Model seçimi

Yapılandırma referansı

Başlarken

Model keşfi (örtük sağlayıcı)

Açık yapılandırma (elle tanımlanan modeller)

Gelişmiş yapılandırma

İlgili içerikler