ds4

ds4 предоставляет DeepSeek V4 Flash через локальный бэкенд Metal с совместимым с OpenAI API /v1. OpenClaw подключается к ds4 через универсальное семейство провайдеров openai-completions. ds4 не является встроенным плагином провайдера OpenClaw. Настройте его в разделе models.providers.ds4, затем выберите ds4/deepseek-v4-flash.

Свойство	Значение
ID провайдера	`ds4`
Плагин	отсутствует (только конфигурация)
API	совместимый с OpenAI Chat Completions (`openai-completions`)
Базовый URL	`http://127.0.0.1:18000/v1` (рекомендуется)
ID модели	`deepseek-v4-flash`
Вызовы инструментов	в стиле OpenAI: `tools` / `tool_calls`
Рассуждение	в стиле DeepSeek: `thinking` и `reasoning_effort`

Требования

macOS с поддержкой Metal.
Рабочая копия репозитория ds4 с ds4-server и файлом GGUF DeepSeek V4 Flash.
Достаточный объём памяти для выбранного контекста; большие значения --ctx выделяют больше памяти KV при запуске сервера.

Запросы агентов OpenClaw включают схемы инструментов и контекст рабочего пространства. Малый контекст, например --ctx 4096, может успешно пройти прямые проверки через curl, но привести к сбою полных запусков агента с 500 prompt exceeds context. Для быстрых проверок агента и инструментов используйте как минимум --ctx 32768. Используйте --ctx 393216 только при наличии достаточного объёма памяти и для включения Think Max в ds4.

Быстрый старт

Запустите ds4-server

Замените <DS4_DIR> путём к вашей рабочей копии ds4.

<DS4_DIR>/ds4-server \
  --model <DS4_DIR>/ds4flash.gguf \
  --host 127.0.0.1 \
  --port 18000 \
  --ctx 32768 \
  --tokens 128

Проверьте совместимую с OpenAI конечную точку

curl http://127.0.0.1:18000/v1/models

Ответ должен содержать deepseek-v4-flash.

Добавьте конфигурацию провайдера OpenClaw

Добавьте конфигурацию из раздела Полная конфигурация, затем выполните однократную проверку модели:

openclaw infer model run \
  --local \
  --model ds4/deepseek-v4-flash \
  --thinking off \
  --prompt "Reply with exactly: openclaw-ds4-ok" \
  --json

Полная конфигурация

Используйте эту конфигурацию, если ds4 уже запущен по адресу 127.0.0.1:18000.

{
  agents: {
    defaults: {
      model: { primary: "ds4/deepseek-v4-flash" },
      models: {
        "ds4/deepseek-v4-flash": {
          alias: "DS4 local",
        },
      },
    },
  },
  models: {
    mode: "merge",
    providers: {
      ds4: {
        baseUrl: "http://127.0.0.1:18000/v1",
        apiKey: "ds4-local",
        api: "openai-completions",
        timeoutSeconds: 300,
        models: [
          {
            id: "deepseek-v4-flash",
            name: "DeepSeek V4 Flash (ds4)",
            reasoning: true,
            input: ["text"],
            cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 },
            contextWindow: 32768,
            maxTokens: 128,
            compat: {
              supportsUsageInStreaming: true,
              supportsReasoningEffort: true,
              maxTokensField: "max_tokens",
              supportsStrictMode: false,
              thinkingFormat: "deepseek",
              supportedReasoningEfforts: ["low", "medium", "high", "xhigh"],
            },
          },
        ],
      },
    },
  },
}

Согласуйте contextWindow с ds4-server --ctx. Согласуйте maxTokens с --tokens, если только вы намеренно не хотите, чтобы OpenClaw запрашивал меньший объём вывода, чем задано на сервере по умолчанию.

Запуск по требованию

OpenClaw может запускать ds4 только при выборе модели ds4/.... Добавьте localService в ту же запись провайдера:

{
  models: {
    providers: {
      ds4: {
        baseUrl: "http://127.0.0.1:18000/v1",
        apiKey: "ds4-local",
        api: "openai-completions",
        timeoutSeconds: 300,
        localService: {
          command: "<DS4_DIR>/ds4-server",
          args: [
            "--model",
            "<DS4_DIR>/ds4flash.gguf",
            "--host",
            "127.0.0.1",
            "--port",
            "18000",
            "--ctx",
            "32768",
            "--tokens",
            "128",
          ],
          cwd: "<DS4_DIR>",
          healthUrl: "http://127.0.0.1:18000/v1/models",
          readyTimeoutMs: 300000,
          idleStopMs: 0,
        },
        models: [
          {
            id: "deepseek-v4-flash",
            name: "DeepSeek V4 Flash (ds4)",
            reasoning: true,
            input: ["text"],
            cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 },
            contextWindow: 32768,
            maxTokens: 128,
            compat: {
              supportsUsageInStreaming: true,
              supportsReasoningEffort: true,
              maxTokensField: "max_tokens",
              supportsStrictMode: false,
              thinkingFormat: "deepseek",
              supportedReasoningEfforts: ["low", "medium", "high", "xhigh"],
            },
          },
        ],
      },
    },
  },
}

command должен быть абсолютным путём к исполняемому файлу. Поиск через оболочку и раскрытие ~ не используются. Описание всех полей localService см. в разделе Локальные сервисы моделей.

Think Max

ds4 применяет Think Max, только когда выполняются оба условия:

ds4-server начинается с --ctx 393216 или более высокого значения.
В запросе используется reasoning_effort: "max" (или эквивалентное поле уровня рассуждений ds4).

При использовании такого большого контекста обновите как флаги сервера, так и метаданные модели OpenClaw:

{
  contextWindow: 393216,
  maxTokens: 384000,
  compat: {
    supportsUsageInStreaming: true,
    supportsReasoningEffort: true,
    maxTokensField: "max_tokens",
    supportsStrictMode: false,
    thinkingFormat: "deepseek",
    supportedReasoningEfforts: ["low", "medium", "high", "xhigh", "max"],
  },
}

Проверка

Прямая проверка HTTP в обход OpenClaw:

curl http://127.0.0.1:18000/v1/chat/completions \
  -H 'content-type: application/json' \
  -d '{"model":"deepseek-v4-flash","messages":[{"role":"user","content":"Reply with exactly: ds4-ok"}],"max_tokens":16,"stream":false,"thinking":{"type":"disabled"}}'

Маршрутизация модели OpenClaw (аналогично проверке из раздела быстрого старта):

openclaw infer model run \
  --local \
  --model ds4/deepseek-v4-flash \
  --thinking off \
  --prompt "Reply with exactly: openclaw-ds4-ok" \
  --json

Быстрая проверка полного запуска агента и вызова инструментов с контекстом не менее 32768:

openclaw agent \
  --local \
  --session-id ds4-tool-smoke \
  --model ds4/deepseek-v4-flash \
  --thinking off \
  --message "Use the shell command pwd once, then reply exactly: tool-ok <output>" \
  --json \
  --timeout 240

Ожидаемый результат:

executionTrace.winnerProvider имеет значение ds4
executionTrace.winnerModel имеет значение deepseek-v4-flash
toolSummary.calls составляет не менее 1
finalAssistantVisibleText начинается с tool-ok

Устранение неполадок

curl не удаётся подключиться к /v1/models

ds4 не запущен или не привязан к хосту/порту, указанному в baseUrl. Запустите ds4-server, затем повторите попытку:

curl http://127.0.0.1:18000/v1/models

500: запрос превышает размер контекста

Настроенное значение --ctx слишком мало для запроса OpenClaw. Увеличьте ds4-server --ctx, затем соответствующим образом обновите models.providers.ds4.models[].contextWindow. Полным запросам агента с инструментами требуется значительно больше контекста, чем прямому curl-запросу с одним сообщением.

Think Max не активируется

ds4 использует Think Max, только когда --ctx составляет не менее 393216, а запрос запрашивает reasoning_effort: "max". При меньшем контексте используется высокий уровень рассуждений.

Первый запрос выполняется медленно

ds4 требуется время для первоначального размещения в Metal и прогрева модели. Задайте localService.readyTimeoutMs: 300000, когда OpenClaw запускает сервер по требованию.

Связанные материалы

Локальные сервисы моделей

Запускайте локальные серверы моделей по требованию перед запросами к моделям.

Локальные модели

Выбирайте и используйте локальные бэкенды моделей.

Провайдеры моделей

Настраивайте ссылки на провайдеров, аутентификацию и аварийное переключение.

DeepSeek

Нативное поведение провайдера DeepSeek и управление рассуждениями.

Overview

Concepts and configuration

Providers

Требования

Быстрый старт

Полная конфигурация

Запуск по требованию

Think Max

Проверка

Устранение неполадок

Связанные материалы

Локальные сервисы моделей

Локальные модели

Провайдеры моделей

DeepSeek

​Требования

​Быстрый старт

​Полная конфигурация

​Запуск по требованию

​Think Max

​Проверка

​Устранение неполадок

​Связанные материалы

Локальные сервисы моделей

Локальные модели

Провайдеры моделей

DeepSeek

Требования

Быстрый старт

Полная конфигурация

Запуск по требованию

Think Max

Проверка

Устранение неполадок

Связанные материалы