Skip to main content
ds4 通过本地 Metal 后端提供 DeepSeek V4 Flash,并暴露兼容 OpenAI 的 /v1 API。OpenClaw 通过通用的 openai-completions 提供商系列连接到 ds4。 ds4 不是内置的 OpenClaw 提供商插件。请在 models.providers.ds4 下配置它,然后选择 ds4/deepseek-v4-flash
属性
提供商 IDds4
插件无(仅配置)
API兼容 OpenAI 的 Chat Completions(openai-completions
基础 URLhttp://127.0.0.1:18000/v1(建议)
模型 IDdeepseek-v4-flash
工具调用OpenAI 风格的 tools / tool_calls
推理DeepSeek 风格的 thinkingreasoning_effort

要求

  • 支持 Metal 的 macOS。
  • 一个可用的 ds4 checkout,包含 ds4-server 和 DeepSeek V4 Flash GGUF 文件。
  • 为你选择的上下文准备足够内存;更大的 --ctx 值会在服务器启动时分配更多 KV 内存。
OpenClaw 智能体轮次包含工具 schema 和工作区上下文。像 --ctx 4096 这样很小的上下文可能能通过直接 curl 测试,但在完整智能体运行中因 500 prompt exceeds context 失败。智能体和工具冒烟测试至少使用 --ctx 32768。仅在内存足够且需要启用 ds4 Think Max 时使用 --ctx 393216

快速开始

1

启动 ds4-server

<DS4_DIR> 替换为你的 ds4 checkout 路径。
<DS4_DIR>/ds4-server \
  --model <DS4_DIR>/ds4flash.gguf \
  --host 127.0.0.1 \
  --port 18000 \
  --ctx 32768 \
  --tokens 128
2

验证兼容 OpenAI 的端点

curl http://127.0.0.1:18000/v1/models
响应应包含 deepseek-v4-flash
3

添加 OpenClaw 提供商配置

添加 完整配置 中的配置,然后运行一次性模型检查:
openclaw infer model run \
  --local \
  --model ds4/deepseek-v4-flash \
  --thinking off \
  --prompt "Reply with exactly: openclaw-ds4-ok" \
  --json

完整配置

当 ds4 已在 127.0.0.1:18000 上运行时,使用此配置。
{
  agents: {
    defaults: {
      model: { primary: "ds4/deepseek-v4-flash" },
      models: {
        "ds4/deepseek-v4-flash": {
          alias: "DS4 local",
        },
      },
    },
  },
  models: {
    mode: "merge",
    providers: {
      ds4: {
        baseUrl: "http://127.0.0.1:18000/v1",
        apiKey: "ds4-local",
        api: "openai-completions",
        timeoutSeconds: 300,
        models: [
          {
            id: "deepseek-v4-flash",
            name: "DeepSeek V4 Flash (ds4)",
            reasoning: true,
            input: ["text"],
            cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 },
            contextWindow: 32768,
            maxTokens: 128,
            compat: {
              supportsUsageInStreaming: true,
              supportsReasoningEffort: true,
              maxTokensField: "max_tokens",
              supportsStrictMode: false,
              thinkingFormat: "deepseek",
              supportedReasoningEfforts: ["low", "medium", "high", "xhigh"],
            },
          },
        ],
      },
    },
  },
}
保持 contextWindowds4-server --ctx 对齐。保持 maxTokens--tokens 对齐,除非你有意让 OpenClaw 请求少于服务器默认值的输出。

按需启动

OpenClaw 可以只在选择 ds4/... 模型时启动 ds4。将 localService 添加到同一个提供商条目:
{
  models: {
    providers: {
      ds4: {
        baseUrl: "http://127.0.0.1:18000/v1",
        apiKey: "ds4-local",
        api: "openai-completions",
        timeoutSeconds: 300,
        localService: {
          command: "<DS4_DIR>/ds4-server",
          args: [
            "--model",
            "<DS4_DIR>/ds4flash.gguf",
            "--host",
            "127.0.0.1",
            "--port",
            "18000",
            "--ctx",
            "32768",
            "--tokens",
            "128",
          ],
          cwd: "<DS4_DIR>",
          healthUrl: "http://127.0.0.1:18000/v1/models",
          readyTimeoutMs: 300000,
          idleStopMs: 0,
        },
        models: [
          {
            id: "deepseek-v4-flash",
            name: "DeepSeek V4 Flash (ds4)",
            reasoning: true,
            input: ["text"],
            cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 },
            contextWindow: 32768,
            maxTokens: 128,
            compat: {
              supportsUsageInStreaming: true,
              supportsReasoningEffort: true,
              maxTokensField: "max_tokens",
              supportsStrictMode: false,
              thinkingFormat: "deepseek",
              supportedReasoningEfforts: ["low", "medium", "high", "xhigh"],
            },
          },
        ],
      },
    },
  },
}
command 必须是绝对可执行路径。不会使用 shell 查找和 ~ 展开。有关每个 localService 字段,请参见 本地模型服务

Think Max

ds4 仅在以下两个条件都成立时应用 Think Max:
  • ds4-server--ctx 393216 或更高值启动。
  • 请求使用 reasoning_effort: "max"(或等效的 ds4 effort 字段)。
如果你运行这么大的上下文,请同时更新服务器标志和 OpenClaw 模型元数据:
{
  contextWindow: 393216,
  maxTokens: 384000,
  compat: {
    supportsUsageInStreaming: true,
    supportsReasoningEffort: true,
    maxTokensField: "max_tokens",
    supportsStrictMode: false,
    thinkingFormat: "deepseek",
    supportedReasoningEfforts: ["low", "medium", "high", "xhigh", "max"],
  },
}

测试

直接 HTTP 检查,绕过 OpenClaw:
curl http://127.0.0.1:18000/v1/chat/completions \
  -H 'content-type: application/json' \
  -d '{"model":"deepseek-v4-flash","messages":[{"role":"user","content":"Reply with exactly: ds4-ok"}],"max_tokens":16,"stream":false,"thinking":{"type":"disabled"}}'
OpenClaw 模型路由(与快速开始检查相同):
openclaw infer model run \
  --local \
  --model ds4/deepseek-v4-flash \
  --thinking off \
  --prompt "Reply with exactly: openclaw-ds4-ok" \
  --json
完整智能体和工具调用冒烟测试,上下文至少为 32768:
openclaw agent \
  --local \
  --session-id ds4-tool-smoke \
  --model ds4/deepseek-v4-flash \
  --thinking off \
  --message "Use the shell command pwd once, then reply exactly: tool-ok <output>" \
  --json \
  --timeout 240
预期结果:
  • executionTrace.winnerProviderds4
  • executionTrace.winnerModeldeepseek-v4-flash
  • toolSummary.calls 至少为 1
  • finalAssistantVisibleTexttool-ok 开头

故障排查

ds4 未运行,或未绑定到 baseUrl 中的主机/端口。启动 ds4-server,然后重试:
curl http://127.0.0.1:18000/v1/models
配置的 --ctx 对 OpenClaw 轮次来说太小。提高 ds4-server --ctx,然后更新 models.providers.ds4.models[].contextWindow 以匹配。带工具的完整智能体轮次需要比直接单消息 curl 请求多得多的上下文。
ds4 仅在 --ctx 至少为 393216 且请求要求 reasoning_effort: "max" 时使用 Think Max。较小的上下文会回退到高推理。
ds4 有冷启动的 Metal 驻留和模型预热阶段。当 OpenClaw 按需启动服务器时,设置 localService.readyTimeoutMs: 300000

相关内容

本地模型服务

在模型请求前按需启动本地模型服务器。

本地模型

选择并运行本地模型后端。

模型提供商

配置提供商引用、凭证和故障转移。

DeepSeek

原生 DeepSeek 提供商行为和 thinking 控制。