ds4

ds4 disponibiliza o DeepSeek V4 Flash por meio de um backend Metal local com uma API /v1 compatível com OpenAI. O OpenClaw se conecta ao ds4 por meio da família genérica de provedores openai-completions. O ds4 não é um Plugin de provedor integrado ao OpenClaw. Configure-o em models.providers.ds4 e selecione ds4/deepseek-v4-flash.

Propriedade	Valor
ID do provedor	`ds4`
Plugin	nenhum (somente configuração)
API	Chat Completions compatível com OpenAI (`openai-completions`)
URL base	`http://127.0.0.1:18000/v1` (sugerida)
ID do modelo	`deepseek-v4-flash`
Chamadas de ferramentas	`tools` / `tool_calls` no estilo OpenAI
Raciocínio	`thinking` e `reasoning_effort` no estilo DeepSeek

Requisitos

macOS com suporte ao Metal.
Um checkout funcional do ds4 com ds4-server e o arquivo GGUF do DeepSeek V4 Flash.
Memória suficiente para o contexto escolhido; valores maiores de --ctx alocam mais memória KV na inicialização do servidor.

As interações do agente OpenClaw incluem esquemas de ferramentas e o contexto do espaço de trabalho. Um contexto pequeno, como --ctx 4096, pode passar em testes diretos com curl, mas falhar em execuções completas do agente com 500 prompt exceeds context. Use pelo menos --ctx 32768 para testes rápidos do agente e das ferramentas. Use --ctx 393216 somente com memória suficiente e para habilitar o Think Max do ds4.

Início rápido

Start ds4-server

Substitua <DS4_DIR> pelo caminho do seu checkout do ds4.

<DS4_DIR>/ds4-server \
  --model <DS4_DIR>/ds4flash.gguf \
  --host 127.0.0.1 \
  --port 18000 \
  --ctx 32768 \
  --tokens 128

Verify the OpenAI-compatible endpoint

curl http://127.0.0.1:18000/v1/models

A resposta deve incluir deepseek-v4-flash.

Add the OpenClaw provider config

Adicione a configuração de Configuração completa e execute uma verificação pontual do modelo:

openclaw infer model run \
  --local \
  --model ds4/deepseek-v4-flash \
  --thinking off \
  --prompt "Reply with exactly: openclaw-ds4-ok" \
  --json

Configuração completa

Use esta configuração quando o ds4 já estiver em execução em 127.0.0.1:18000.

{
  agents: {
    defaults: {
      model: { primary: "ds4/deepseek-v4-flash" },
      models: {
        "ds4/deepseek-v4-flash": {
          alias: "DS4 local",
        },
      },
    },
  },
  models: {
    mode: "merge",
    providers: {
      ds4: {
        baseUrl: "http://127.0.0.1:18000/v1",
        apiKey: "ds4-local",
        api: "openai-completions",
        timeoutSeconds: 300,
        models: [
          {
            id: "deepseek-v4-flash",
            name: "DeepSeek V4 Flash (ds4)",
            reasoning: true,
            input: ["text"],
            cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 },
            contextWindow: 32768,
            maxTokens: 128,
            compat: {
              supportsUsageInStreaming: true,
              supportsReasoningEffort: true,
              maxTokensField: "max_tokens",
              supportsStrictMode: false,
              thinkingFormat: "deepseek",
              supportedReasoningEfforts: ["low", "medium", "high", "xhigh"],
            },
          },
        ],
      },
    },
  },
}

Mantenha contextWindow alinhado com ds4-server --ctx. Mantenha maxTokens alinhado com --tokens, a menos que você queira intencionalmente que o OpenClaw solicite menos saída do que o padrão do servidor.

Inicialização sob demanda

O OpenClaw pode iniciar o ds4 somente quando um modelo ds4/... for selecionado. Adicione localService à mesma entrada do provedor:

{
  models: {
    providers: {
      ds4: {
        baseUrl: "http://127.0.0.1:18000/v1",
        apiKey: "ds4-local",
        api: "openai-completions",
        timeoutSeconds: 300,
        localService: {
          command: "<DS4_DIR>/ds4-server",
          args: [
            "--model",
            "<DS4_DIR>/ds4flash.gguf",
            "--host",
            "127.0.0.1",
            "--port",
            "18000",
            "--ctx",
            "32768",
            "--tokens",
            "128",
          ],
          cwd: "<DS4_DIR>",
          healthUrl: "http://127.0.0.1:18000/v1/models",
          readyTimeoutMs: 300000,
          idleStopMs: 0,
        },
        models: [
          {
            id: "deepseek-v4-flash",
            name: "DeepSeek V4 Flash (ds4)",
            reasoning: true,
            input: ["text"],
            cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 },
            contextWindow: 32768,
            maxTokens: 128,
            compat: {
              supportsUsageInStreaming: true,
              supportsReasoningEffort: true,
              maxTokensField: "max_tokens",
              supportsStrictMode: false,
              thinkingFormat: "deepseek",
              supportedReasoningEfforts: ["low", "medium", "high", "xhigh"],
            },
          },
        ],
      },
    },
  },
}

command deve ser um caminho absoluto para um executável. A pesquisa no shell e a expansão de ~ não são usadas. Consulte Serviços de modelos locais para conhecer todos os campos de localService.

Think Max

O ds4 aplica o Think Max somente quando ambas as condições são verdadeiras:

O ds4-server é iniciado com --ctx 393216 ou um valor maior.
A solicitação usa reasoning_effort: "max" (ou o campo de esforço equivalente do ds4).

Se você executar com esse contexto grande, atualize tanto os sinalizadores do servidor quanto os metadados do modelo no OpenClaw:

{
  contextWindow: 393216,
  maxTokens: 384000,
  compat: {
    supportsUsageInStreaming: true,
    supportsReasoningEffort: true,
    maxTokensField: "max_tokens",
    supportsStrictMode: false,
    thinkingFormat: "deepseek",
    supportedReasoningEfforts: ["low", "medium", "high", "xhigh", "max"],
  },
}

Teste

Verificação HTTP direta, ignorando o OpenClaw:

curl http://127.0.0.1:18000/v1/chat/completions \
  -H 'content-type: application/json' \
  -d '{"model":"deepseek-v4-flash","messages":[{"role":"user","content":"Reply with exactly: ds4-ok"}],"max_tokens":16,"stream":false,"thinking":{"type":"disabled"}}'

Roteamento de modelo do OpenClaw (igual à verificação do início rápido):

openclaw infer model run \
  --local \
  --model ds4/deepseek-v4-flash \
  --thinking off \
  --prompt "Reply with exactly: openclaw-ds4-ok" \
  --json

Teste rápido completo do agente e das chamadas de ferramentas, com contexto de pelo menos 32768:

openclaw agent \
  --local \
  --session-id ds4-tool-smoke \
  --model ds4/deepseek-v4-flash \
  --thinking off \
  --message "Use the shell command pwd once, then reply exactly: tool-ok <output>" \
  --json \
  --timeout 240

Resultado esperado:

executionTrace.winnerProvider é ds4
executionTrace.winnerModel é deepseek-v4-flash
toolSummary.calls é pelo menos 1
finalAssistantVisibleText começa com tool-ok

Solução de problemas

curl /v1/models cannot connect

O ds4 não está em execução ou não está vinculado ao host/à porta em baseUrl. Inicie o ds4-server e tente novamente:

curl http://127.0.0.1:18000/v1/models

500 prompt exceeds context

O --ctx configurado é pequeno demais para a interação do OpenClaw. Aumente ds4-server --ctx e atualize models.providers.ds4.models[].contextWindow para corresponder. Interações completas do agente com ferramentas precisam de muito mais contexto do que uma solicitação direta de uma única mensagem com curl.

Think Max does not activate

O ds4 usa o Think Max somente quando --ctx é de pelo menos 393216 e a solicitação pede reasoning_effort: "max". Contextos menores recorrem ao nível alto de raciocínio.

The first request is slow

O ds4 passa por uma fase inicial de residência a frio no Metal e aquecimento do modelo. Defina localService.readyTimeoutMs: 300000 quando o OpenClaw iniciar o servidor sob demanda.

Relacionados

Local model services

Inicie servidores de modelos locais sob demanda antes das solicitações de modelo.

Local models

Escolha e opere backends de modelos locais.

Model providers

Configure referências de provedores, autenticação e failover.

DeepSeek

Comportamento nativo do provedor DeepSeek e controles de raciocínio.

Overview

Concepts and configuration

Providers

Requisitos

Início rápido

Configuração completa

Inicialização sob demanda

Think Max

Teste

Solução de problemas

Relacionados

Local model services

Local models

Model providers

DeepSeek

​Requisitos

​Início rápido

​Configuração completa

​Inicialização sob demanda

​Think Max

​Teste

​Solução de problemas

​Relacionados

Local model services

Local models

Model providers

DeepSeek

Requisitos

Início rápido

Configuração completa

Inicialização sob demanda

Think Max

Teste

Solução de problemas

Relacionados