ds4

ds4 запускає DeepSeek V4 Flash на локальному бекенді Metal з API /v1, сумісним з OpenAI. OpenClaw підключається до ds4 через універсальне сімейство постачальників openai-completions. ds4 не є вбудованим Plugin постачальника OpenClaw. Налаштуйте його в models.providers.ds4, а потім виберіть ds4/deepseek-v4-flash.

Властивість	Значення
Ідентифікатор постачальника	`ds4`
Plugin	немає (лише конфігурація)
API	Chat Completions, сумісний з OpenAI (`openai-completions`)
Базова URL-адреса	`http://127.0.0.1:18000/v1` (рекомендовано)
Ідентифікатор моделі	`deepseek-v4-flash`
Виклики інструментів	`tools` / `tool_calls` у стилі OpenAI
Міркування	`thinking` і `reasoning_effort` у стилі DeepSeek

Вимоги

macOS із підтримкою Metal.
Робоча копія репозиторію ds4 із ds4-server і файлом GGUF DeepSeek V4 Flash.
Достатньо пам’яті для вибраного контексту; більші значення --ctx виділяють більше KV-пам’яті під час запуску сервера.

Ходи агента OpenClaw містять схеми інструментів і контекст робочого простору. Малий контекст, наприклад --ctx 4096, може пройти прямі тести curl, але спричинити помилку повних запусків агента 500 prompt exceeds context. Для димових тестів агента й інструментів використовуйте принаймні --ctx 32768. Використовуйте --ctx 393216 лише за наявності достатнього обсягу пам’яті та для ввімкнення Think Max у ds4.

Швидкий початок

Start ds4-server

Замініть <DS4_DIR> шляхом до вашої робочої копії ds4.

<DS4_DIR>/ds4-server \
  --model <DS4_DIR>/ds4flash.gguf \
  --host 127.0.0.1 \
  --port 18000 \
  --ctx 32768 \
  --tokens 128

Verify the OpenAI-compatible endpoint

curl http://127.0.0.1:18000/v1/models

Відповідь має містити deepseek-v4-flash.

Add the OpenClaw provider config

Додайте конфігурацію з розділу Повна конфігурація, а потім виконайте одноразову перевірку моделі:

openclaw infer model run \
  --local \
  --model ds4/deepseek-v4-flash \
  --thinking off \
  --prompt "Reply with exactly: openclaw-ds4-ok" \
  --json

Повна конфігурація

Використовуйте цю конфігурацію, якщо ds4 уже працює на 127.0.0.1:18000.

{
  agents: {
    defaults: {
      model: { primary: "ds4/deepseek-v4-flash" },
      models: {
        "ds4/deepseek-v4-flash": {
          alias: "DS4 local",
        },
      },
    },
  },
  models: {
    mode: "merge",
    providers: {
      ds4: {
        baseUrl: "http://127.0.0.1:18000/v1",
        apiKey: "ds4-local",
        api: "openai-completions",
        timeoutSeconds: 300,
        models: [
          {
            id: "deepseek-v4-flash",
            name: "DeepSeek V4 Flash (ds4)",
            reasoning: true,
            input: ["text"],
            cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 },
            contextWindow: 32768,
            maxTokens: 128,
            compat: {
              supportsUsageInStreaming: true,
              supportsReasoningEffort: true,
              maxTokensField: "max_tokens",
              supportsStrictMode: false,
              thinkingFormat: "deepseek",
              supportedReasoningEfforts: ["low", "medium", "high", "xhigh"],
            },
          },
        ],
      },
    },
  },
}

Узгоджуйте contextWindow із ds4-server --ctx. Узгоджуйте maxTokens із --tokens, якщо ви навмисно не хочете, щоб OpenClaw запитував менше вихідних даних, ніж визначено стандартним значенням сервера.

Запуск на вимогу

OpenClaw може запускати ds4 лише тоді, коли вибрано модель ds4/.... Додайте localService до того самого запису постачальника:

{
  models: {
    providers: {
      ds4: {
        baseUrl: "http://127.0.0.1:18000/v1",
        apiKey: "ds4-local",
        api: "openai-completions",
        timeoutSeconds: 300,
        localService: {
          command: "<DS4_DIR>/ds4-server",
          args: [
            "--model",
            "<DS4_DIR>/ds4flash.gguf",
            "--host",
            "127.0.0.1",
            "--port",
            "18000",
            "--ctx",
            "32768",
            "--tokens",
            "128",
          ],
          cwd: "<DS4_DIR>",
          healthUrl: "http://127.0.0.1:18000/v1/models",
          readyTimeoutMs: 300000,
          idleStopMs: 0,
        },
        models: [
          {
            id: "deepseek-v4-flash",
            name: "DeepSeek V4 Flash (ds4)",
            reasoning: true,
            input: ["text"],
            cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 },
            contextWindow: 32768,
            maxTokens: 128,
            compat: {
              supportsUsageInStreaming: true,
              supportsReasoningEffort: true,
              maxTokensField: "max_tokens",
              supportsStrictMode: false,
              thinkingFormat: "deepseek",
              supportedReasoningEfforts: ["low", "medium", "high", "xhigh"],
            },
          },
        ],
      },
    },
  },
}

command має бути абсолютним шляхом до виконуваного файла. Пошук через оболонку та розгортання ~ не використовуються. Опис усіх полів localService див. у розділі Локальні служби моделей.

Think Max

ds4 застосовує Think Max лише тоді, коли виконуються обидві умови:

ds4-server запускається з --ctx 393216 або більшим значенням.
Запит використовує reasoning_effort: "max" (або еквівалентне поле зусилля ds4).

Якщо ви використовуєте такий великий контекст, оновіть і прапорці сервера, і метадані моделі OpenClaw:

{
  contextWindow: 393216,
  maxTokens: 384000,
  compat: {
    supportsUsageInStreaming: true,
    supportsReasoningEffort: true,
    maxTokensField: "max_tokens",
    supportsStrictMode: false,
    thinkingFormat: "deepseek",
    supportedReasoningEfforts: ["low", "medium", "high", "xhigh", "max"],
  },
}

Тестування

Пряма перевірка HTTP в обхід OpenClaw:

curl http://127.0.0.1:18000/v1/chat/completions \
  -H 'content-type: application/json' \
  -d '{"model":"deepseek-v4-flash","messages":[{"role":"user","content":"Reply with exactly: ds4-ok"}],"max_tokens":16,"stream":false,"thinking":{"type":"disabled"}}'

Маршрутизація моделі OpenClaw (та сама перевірка, що й у швидкому початку):

openclaw infer model run \
  --local \
  --model ds4/deepseek-v4-flash \
  --thinking off \
  --prompt "Reply with exactly: openclaw-ds4-ok" \
  --json

Повний димовий тест агента та виклику інструментів із контекстом щонайменше 32768:

openclaw agent \
  --local \
  --session-id ds4-tool-smoke \
  --model ds4/deepseek-v4-flash \
  --thinking off \
  --message "Use the shell command pwd once, then reply exactly: tool-ok <output>" \
  --json \
  --timeout 240

Очікуваний результат:

executionTrace.winnerProvider має значення ds4
executionTrace.winnerModel має значення deepseek-v4-flash
toolSummary.calls становить щонайменше 1
finalAssistantVisibleText починається з tool-ok

Усунення несправностей

curl /v1/models cannot connect

ds4 не запущено або він не прив’язаний до хоста чи порту, указаного в baseUrl. Запустіть ds4-server, а потім повторіть спробу:

curl http://127.0.0.1:18000/v1/models

500 prompt exceeds context

Налаштоване значення --ctx замале для ходу OpenClaw. Збільште ds4-server --ctx, а потім відповідно оновіть models.providers.ds4.models[].contextWindow. Повні ходи агента з інструментами потребують значно більшого контексту, ніж прямий запит curl з одним повідомленням.

Think Max does not activate

ds4 використовує Think Max лише тоді, коли --ctx становить щонайменше 393216, а запит вимагає reasoning_effort: "max". За меншого контексту використовується високий рівень міркування.

The first request is slow

ds4 має фазу холодного розміщення в Metal і прогрівання моделі. Установіть localService.readyTimeoutMs: 300000, коли OpenClaw запускає сервер на вимогу.

Пов’язані матеріали

Local model services

Запускайте локальні сервери моделей на вимогу перед запитами до моделей.

Local models

Вибирайте й використовуйте локальні бекенди моделей.

Model providers

Налаштовуйте посилання на постачальників, автентифікацію та перемикання після відмови.

DeepSeek

Власна поведінка постачальника DeepSeek і засоби керування міркуванням.

Overview

Concepts and configuration

Providers

Вимоги

Швидкий початок

Повна конфігурація

Запуск на вимогу

Think Max

Тестування

Усунення несправностей

Пов’язані матеріали

Local model services

Local models

Model providers

DeepSeek

​Вимоги

​Швидкий початок

​Повна конфігурація

​Запуск на вимогу

​Think Max

​Тестування

​Усунення несправностей

​Пов’язані матеріали

Local model services

Local models

Model providers

DeepSeek

Вимоги

Швидкий початок

Повна конфігурація

Запуск на вимогу

Think Max

Тестування

Усунення несправностей

Пов’язані матеріали