ds4

ds4 esegue DeepSeek V4 Flash tramite un backend Metal locale con un’API /v1 compatibile con OpenAI. OpenClaw si connette a ds4 tramite la famiglia di provider generica openai-completions. ds4 non è un Plugin provider incluso in OpenClaw. Configuralo in models.providers.ds4, quindi seleziona ds4/deepseek-v4-flash.

Proprietà	Valore
ID provider	`ds4`
Plugin	nessuno (solo configurazione)
API	Chat Completions compatibile con OpenAI (`openai-completions`)
URL di base	`http://127.0.0.1:18000/v1` (consigliato)
ID modello	`deepseek-v4-flash`
Chiamate agli strumenti	`tools` / `tool_calls` in stile OpenAI
Ragionamento	`thinking` e `reasoning_effort` in stile DeepSeek

Requisiti

macOS con supporto Metal.
Un checkout ds4 funzionante con ds4-server e il file GGUF di DeepSeek V4 Flash.
Memoria sufficiente per il contesto scelto; valori --ctx maggiori allocano più memoria KV all’avvio del server.

I turni dell’agente OpenClaw includono gli schemi degli strumenti e il contesto dell’area di lavoro. Un contesto ridotto come --ctx 4096 può superare i test curl diretti ma non riuscire a completare le esecuzioni dell’agente con 500 prompt exceeds context. Usa almeno --ctx 32768 per i test di base dell’agente e degli strumenti. Usa --ctx 393216 solo con memoria sufficiente e per abilitare Think Max di ds4.

Avvio rapido

Start ds4-server

Sostituisci <DS4_DIR> con il percorso del checkout ds4.

<DS4_DIR>/ds4-server \
  --model <DS4_DIR>/ds4flash.gguf \
  --host 127.0.0.1 \
  --port 18000 \
  --ctx 32768 \
  --tokens 128

Verify the OpenAI-compatible endpoint

curl http://127.0.0.1:18000/v1/models

La risposta dovrebbe includere deepseek-v4-flash.

Add the OpenClaw provider config

Aggiungi la configurazione indicata in Configurazione completa, quindi esegui un controllo singolo del modello:

openclaw infer model run \
  --local \
  --model ds4/deepseek-v4-flash \
  --thinking off \
  --prompt "Reply with exactly: openclaw-ds4-ok" \
  --json

Configurazione completa

Usa questa configurazione quando ds4 è già in esecuzione su 127.0.0.1:18000.

{
  agents: {
    defaults: {
      model: { primary: "ds4/deepseek-v4-flash" },
      models: {
        "ds4/deepseek-v4-flash": {
          alias: "DS4 local",
        },
      },
    },
  },
  models: {
    mode: "merge",
    providers: {
      ds4: {
        baseUrl: "http://127.0.0.1:18000/v1",
        apiKey: "ds4-local",
        api: "openai-completions",
        timeoutSeconds: 300,
        models: [
          {
            id: "deepseek-v4-flash",
            name: "DeepSeek V4 Flash (ds4)",
            reasoning: true,
            input: ["text"],
            cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 },
            contextWindow: 32768,
            maxTokens: 128,
            compat: {
              supportsUsageInStreaming: true,
              supportsReasoningEffort: true,
              maxTokensField: "max_tokens",
              supportsStrictMode: false,
              thinkingFormat: "deepseek",
              supportedReasoningEfforts: ["low", "medium", "high", "xhigh"],
            },
          },
        ],
      },
    },
  },
}

Mantieni contextWindow allineato con ds4-server --ctx. Mantieni maxTokens allineato con --tokens, a meno che tu non voglia intenzionalmente che OpenClaw richieda un output inferiore rispetto al valore predefinito del server.

Avvio su richiesta

OpenClaw può avviare ds4 solo quando viene selezionato un modello ds4/.... Aggiungi localService alla stessa voce del provider:

{
  models: {
    providers: {
      ds4: {
        baseUrl: "http://127.0.0.1:18000/v1",
        apiKey: "ds4-local",
        api: "openai-completions",
        timeoutSeconds: 300,
        localService: {
          command: "<DS4_DIR>/ds4-server",
          args: [
            "--model",
            "<DS4_DIR>/ds4flash.gguf",
            "--host",
            "127.0.0.1",
            "--port",
            "18000",
            "--ctx",
            "32768",
            "--tokens",
            "128",
          ],
          cwd: "<DS4_DIR>",
          healthUrl: "http://127.0.0.1:18000/v1/models",
          readyTimeoutMs: 300000,
          idleStopMs: 0,
        },
        models: [
          {
            id: "deepseek-v4-flash",
            name: "DeepSeek V4 Flash (ds4)",
            reasoning: true,
            input: ["text"],
            cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 },
            contextWindow: 32768,
            maxTokens: 128,
            compat: {
              supportsUsageInStreaming: true,
              supportsReasoningEffort: true,
              maxTokensField: "max_tokens",
              supportsStrictMode: false,
              thinkingFormat: "deepseek",
              supportedReasoningEfforts: ["low", "medium", "high", "xhigh"],
            },
          },
        ],
      },
    },
  },
}

command deve essere un percorso assoluto a un eseguibile. La ricerca tramite shell e l’espansione di ~ non vengono utilizzate. Consulta Servizi per modelli locali per tutti i campi di localService.

Think Max

ds4 applica Think Max solo quando entrambe le condizioni sono vere:

ds4-server viene avviato con --ctx 393216 o un valore superiore.
La richiesta usa reasoning_effort: "max" (o il campo equivalente di ds4 per il livello di ragionamento).

Se esegui un contesto così ampio, aggiorna sia i flag del server sia i metadati del modello OpenClaw:

{
  contextWindow: 393216,
  maxTokens: 384000,
  compat: {
    supportsUsageInStreaming: true,
    supportsReasoningEffort: true,
    maxTokensField: "max_tokens",
    supportsStrictMode: false,
    thinkingFormat: "deepseek",
    supportedReasoningEfforts: ["low", "medium", "high", "xhigh", "max"],
  },
}

Test

Controllo HTTP diretto, senza passare da OpenClaw:

curl http://127.0.0.1:18000/v1/chat/completions \
  -H 'content-type: application/json' \
  -d '{"model":"deepseek-v4-flash","messages":[{"role":"user","content":"Reply with exactly: ds4-ok"}],"max_tokens":16,"stream":false,"thinking":{"type":"disabled"}}'

Instradamento del modello OpenClaw (uguale al controllo dell’avvio rapido):

openclaw infer model run \
  --local \
  --model ds4/deepseek-v4-flash \
  --thinking off \
  --prompt "Reply with exactly: openclaw-ds4-ok" \
  --json

Test di base completo dell’agente e delle chiamate agli strumenti, con un contesto di almeno 32768:

openclaw agent \
  --local \
  --session-id ds4-tool-smoke \
  --model ds4/deepseek-v4-flash \
  --thinking off \
  --message "Use the shell command pwd once, then reply exactly: tool-ok <output>" \
  --json \
  --timeout 240

Risultato previsto:

executionTrace.winnerProvider è ds4
executionTrace.winnerModel è deepseek-v4-flash
toolSummary.calls è almeno 1
finalAssistantVisibleText inizia con tool-ok

Risoluzione dei problemi

curl /v1/models cannot connect

ds4 non è in esecuzione oppure non è associato all’host o alla porta indicati in baseUrl. Avvia ds4-server, quindi riprova:

curl http://127.0.0.1:18000/v1/models

500 prompt exceeds context

Il valore --ctx configurato è troppo piccolo per il turno di OpenClaw. Aumenta ds4-server --ctx, quindi aggiorna models.providers.ds4.models[].contextWindow in modo che corrisponda. I turni completi dell’agente con gli strumenti richiedono molto più contesto rispetto a una richiesta curl diretta con un singolo messaggio.

Think Max does not activate

ds4 usa Think Max solo quando --ctx è almeno 393216 e la richiesta specifica reasoning_effort: "max". Con contesti più piccoli viene usato il livello di ragionamento alto.

The first request is slow

ds4 presenta una fase iniziale di caricamento a freddo in Metal e di riscaldamento del modello. Imposta localService.readyTimeoutMs: 300000 quando OpenClaw avvia il server su richiesta.

Contenuti correlati

Local model services

Avvia i server dei modelli locali su richiesta prima delle richieste ai modelli.

Local models

Scegli e gestisci i backend dei modelli locali.

Model providers

Configura i riferimenti ai provider, l’autenticazione e il failover.

DeepSeek

Comportamento nativo del provider DeepSeek e controlli del ragionamento.

Overview

Concepts and configuration

Providers

Requisiti

Avvio rapido

Configurazione completa

Avvio su richiesta

Think Max

Test

Risoluzione dei problemi

Contenuti correlati

Local model services

Local models

Model providers

DeepSeek

​Requisiti

​Avvio rapido

​Configurazione completa

​Avvio su richiesta

​Think Max

​Test

​Risoluzione dei problemi

​Contenuti correlati

Local model services

Local models

Model providers

DeepSeek

Requisiti

Avvio rapido

Configurazione completa

Avvio su richiesta

Think Max

Test

Risoluzione dei problemi

Contenuti correlati