Vai al contenuto principale
ds4 serve DeepSeek V4 Flash da un backend Metal locale con un’API /v1 compatibile con OpenAI. OpenClaw si connette a ds4 tramite la famiglia di provider generica openai-completions. ds4 non è un Plugin provider OpenClaw incluso. Configuralo sotto models.providers.ds4, quindi seleziona ds4/deepseek-v4-flash.
  • ID provider: ds4
  • Plugin: nessuno
  • API: Chat Completions compatibile con OpenAI (openai-completions)
  • URL base suggerito: http://127.0.0.1:18000/v1
  • ID modello: deepseek-v4-flash
  • Chiamate agli strumenti: supportate tramite tools e tool_calls in stile OpenAI
  • Ragionamento: thinking e reasoning_effort in stile DeepSeek

​
Requisiti

  • macOS con supporto Metal.
  • Un checkout ds4 funzionante con ds4-server e il file GGUF di DeepSeek V4 Flash.
  • Memoria sufficiente per il contesto che scegli. Valori --ctx più grandi allocano più memoria KV all’avvio del server.
I turni degli agenti OpenClaw includono schemi degli strumenti e contesto dell’area di lavoro. Un contesto ridotto come --ctx 4096 può superare i test curl diretti ma fallire le esecuzioni complete dell’agente con 500 prompt exceeds context. Usa almeno --ctx 32768 per gli smoke test di agenti e strumenti. Usa --ctx 393216 solo quando hai memoria sufficiente e vuoi il comportamento Think Max di ds4.

​
Avvio rapido

1

Start ds4-server

Sostituisci <DS4_DIR> con il percorso del tuo checkout ds4.
<DS4_DIR>/ds4-server \
  --model <DS4_DIR>/ds4flash.gguf \
  --host 127.0.0.1 \
  --port 18000 \
  --ctx 32768 \
  --tokens 128
2

Verify the OpenAI-compatible endpoint

curl http://127.0.0.1:18000/v1/models
La risposta dovrebbe includere deepseek-v4-flash.
3

Add the OpenClaw provider config

Aggiungi la configurazione da Configurazione completa, quindi esegui un controllo del modello una tantum:
openclaw infer model run \
  --local \
  --model ds4/deepseek-v4-flash \
  --thinking off \
  --prompt "Reply with exactly: openclaw-ds4-ok" \
  --json

​
Configurazione completa

Usa questa configurazione quando ds4 è già in esecuzione su 127.0.0.1:18000. 
{
  agents: {
    defaults: {
      model: { primary: "ds4/deepseek-v4-flash" },
      models: {
        "ds4/deepseek-v4-flash": {
          alias: "DS4 local",
        },
      },
    },
  },
  models: {
    mode: "merge",
    providers: {
      ds4: {
        baseUrl: "http://127.0.0.1:18000/v1",
        apiKey: "ds4-local",
        api: "openai-completions",
        timeoutSeconds: 300,
        models: [
          {
            id: "deepseek-v4-flash",
            name: "DeepSeek V4 Flash (ds4)",
            reasoning: true,
            input: ["text"],
            cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 },
            contextWindow: 32768,
            maxTokens: 128,
            compat: {
              supportsUsageInStreaming: true,
              supportsReasoningEffort: true,
              maxTokensField: "max_tokens",
              supportsStrictMode: false,
              thinkingFormat: "deepseek",
              supportedReasoningEfforts: ["low", "medium", "high", "xhigh"],
            },
          },
        ],
      },
    },
  },
}
Mantieni contextWindow allineato al valore ds4-server --ctx. Mantieni maxTokens allineato a --tokens, a meno che tu non voglia intenzionalmente che OpenClaw richieda meno output rispetto al valore predefinito del server.

​
Avvio su richiesta

OpenClaw può avviare ds4 solo quando viene selezionato un modello ds4/.... Aggiungi localService alla stessa voce del provider: 
{
  models: {
    providers: {
      ds4: {
        baseUrl: "http://127.0.0.1:18000/v1",
        apiKey: "ds4-local",
        api: "openai-completions",
        timeoutSeconds: 300,
        localService: {
          command: "<DS4_DIR>/ds4-server",
          args: [
            "--model",
            "<DS4_DIR>/ds4flash.gguf",
            "--host",
            "127.0.0.1",
            "--port",
            "18000",
            "--ctx",
            "32768",
            "--tokens",
            "128",
          ],
          cwd: "<DS4_DIR>",
          healthUrl: "http://127.0.0.1:18000/v1/models",
          readyTimeoutMs: 300000,
          idleStopMs: 0,
        },
        models: [
          {
            id: "deepseek-v4-flash",
            name: "DeepSeek V4 Flash (ds4)",
            reasoning: true,
            input: ["text"],
            cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 },
            contextWindow: 32768,
            maxTokens: 128,
            compat: {
              supportsUsageInStreaming: true,
              supportsReasoningEffort: true,
              maxTokensField: "max_tokens",
              supportsStrictMode: false,
              thinkingFormat: "deepseek",
              supportedReasoningEfforts: ["low", "medium", "high", "xhigh"],
            },
          },
        ],
      },
    },
  },
}
command deve essere un percorso eseguibile assoluto. La ricerca della shell e l’espansione di ~ non vengono usate. Vedi Servizi di modelli locali per ogni campo localService.

​
Think Max

ds4 applica Think Max solo quando entrambe le condizioni sono vere:
  • ds4-server viene avviato con --ctx 393216 o superiore.
  • La richiesta usa reasoning_effort: "max" o il campo di effort ds4 equivalente.
Se esegui quel contesto grande, aggiorna sia i flag del server sia i metadati del modello OpenClaw: 
{
  contextWindow: 393216,
  maxTokens: 384000,
  compat: {
    supportsUsageInStreaming: true,
    supportsReasoningEffort: true,
    maxTokensField: "max_tokens",
    supportsStrictMode: false,
    thinkingFormat: "deepseek",
    supportedReasoningEfforts: ["low", "medium", "high", "xhigh", "max"],
  },
}

​
Test

Inizia con un controllo HTTP diretto: 
curl http://127.0.0.1:18000/v1/chat/completions \
  -H 'content-type: application/json' \
  -d '{"model":"deepseek-v4-flash","messages":[{"role":"user","content":"Reply with exactly: ds4-ok"}],"max_tokens":16,"stream":false,"thinking":{"type":"disabled"}}'
Quindi testa l’instradamento del modello OpenClaw: 
openclaw infer model run \
  --local \
  --model ds4/deepseek-v4-flash \
  --thinking off \
  --prompt "Reply with exactly: openclaw-ds4-ok" \
  --json
Per uno smoke test completo di agente e chiamata agli strumenti, usa un contesto di almeno 32768: 
openclaw agent \
  --local \
  --session-id ds4-tool-smoke \
  --model ds4/deepseek-v4-flash \
  --thinking off \
  --message "Use the shell command pwd once, then reply exactly: tool-ok <output>" \
  --json \
  --timeout 240
Risultato previsto:
  • executionTrace.winnerProvider è ds4
  • executionTrace.winnerModel è deepseek-v4-flash
  • toolSummary.calls è almeno 1
  • finalAssistantVisibleText inizia con tool-ok

​
Risoluzione dei problemi

ds4 non è in esecuzione o non è associato all’host e alla porta in baseUrl. Avvia ds4-server, quindi riprova:
curl http://127.0.0.1:18000/v1/models
Il valore --ctx configurato è troppo piccolo per il turno OpenClaw. Aumenta ds4-server --ctx, quindi aggiorna models.providers.ds4.models[].contextWindow in modo che corrisponda. I turni completi degli agenti con strumenti richiedono molto più contesto rispetto a una richiesta curl diretta con un solo messaggio.
ds4 usa Think Max solo quando --ctx è almeno 393216 e la richiesta richiede reasoning_effort: "max". I contesti più piccoli ripiegano sul ragionamento alto.
ds4 ha una fase di residenza Metal a freddo e di riscaldamento del modello. Usa localService.readyTimeoutMs: 300000 quando OpenClaw avvia il server su richiesta.

​
Correlati

Local model services

Avvia server di modelli locali su richiesta prima delle richieste ai modelli.

Local models

Scegli e gestisci backend di modelli locali.

Model providers

Configura riferimenti provider, autenticazione e failover.

DeepSeek

Comportamento del provider DeepSeek nativo e controlli di thinking.