Перейти к основному содержанию
ds4 обслуживает DeepSeek V4 Flash из локального бэкенда Metal с OpenAI-совместимым API /v1. OpenClaw подключается к ds4 через универсальное семейство провайдеров openai-completions. ds4 не является встроенным Plugin провайдера OpenClaw. Настройте его в models.providers.ds4, затем выберите ds4/deepseek-v4-flash.
  • Идентификатор провайдера: ds4
  • Plugin: нет
  • API: OpenAI-совместимый Chat Completions (openai-completions)
  • Рекомендуемый базовый URL: http://127.0.0.1:18000/v1
  • Идентификатор модели: deepseek-v4-flash
  • Вызовы инструментов: поддерживаются через tools и tool_calls в стиле OpenAI
  • Рассуждение: thinking и reasoning_effort в стиле DeepSeek

​
Требования

  • macOS с поддержкой Metal.
  • Рабочая копия ds4 с ds4-server и файлом GGUF DeepSeek V4 Flash.
  • Достаточно памяти для выбранного вами контекста. Большие значения --ctx выделяют больше KV-памяти при запуске сервера.
Ходы агента OpenClaw включают схемы инструментов и контекст рабочей области. Малый контекст, например --ctx 4096, может проходить прямые curl-проверки, но не проходить полные запуски агента с 500 prompt exceeds context. Используйте как минимум --ctx 32768 для smoke-тестов агента и инструментов. Используйте --ctx 393216 только если у вас достаточно памяти и вы хотите поведение ds4 Think Max.

​
Быстрый старт

1

Start ds4-server

Замените <DS4_DIR> на путь к вашей рабочей копии ds4.
<DS4_DIR>/ds4-server \
  --model <DS4_DIR>/ds4flash.gguf \
  --host 127.0.0.1 \
  --port 18000 \
  --ctx 32768 \
  --tokens 128
2

Verify the OpenAI-compatible endpoint

curl http://127.0.0.1:18000/v1/models
Ответ должен включать deepseek-v4-flash.
3

Add the OpenClaw provider config

Добавьте конфигурацию из Полной конфигурации, затем выполните разовую проверку модели:
openclaw infer model run \
  --local \
  --model ds4/deepseek-v4-flash \
  --thinking off \
  --prompt "Reply with exactly: openclaw-ds4-ok" \
  --json

​
Полная конфигурация

Используйте эту конфигурацию, когда ds4 уже запущен на 127.0.0.1:18000. 
{
  agents: {
    defaults: {
      model: { primary: "ds4/deepseek-v4-flash" },
      models: {
        "ds4/deepseek-v4-flash": {
          alias: "DS4 local",
        },
      },
    },
  },
  models: {
    mode: "merge",
    providers: {
      ds4: {
        baseUrl: "http://127.0.0.1:18000/v1",
        apiKey: "ds4-local",
        api: "openai-completions",
        timeoutSeconds: 300,
        models: [
          {
            id: "deepseek-v4-flash",
            name: "DeepSeek V4 Flash (ds4)",
            reasoning: true,
            input: ["text"],
            cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 },
            contextWindow: 32768,
            maxTokens: 128,
            compat: {
              supportsUsageInStreaming: true,
              supportsReasoningEffort: true,
              maxTokensField: "max_tokens",
              supportsStrictMode: false,
              thinkingFormat: "deepseek",
              supportedReasoningEfforts: ["low", "medium", "high", "xhigh"],
            },
          },
        ],
      },
    },
  },
}
Держите contextWindow согласованным со значением ds4-server --ctx. Держите maxTokens согласованным с --tokens, если вы намеренно не хотите, чтобы OpenClaw запрашивал меньше вывода, чем значение сервера по умолчанию.

​
Запуск по требованию

OpenClaw может запускать ds4 только когда выбрана модель ds4/.... Добавьте localService в ту же запись провайдера: 
{
  models: {
    providers: {
      ds4: {
        baseUrl: "http://127.0.0.1:18000/v1",
        apiKey: "ds4-local",
        api: "openai-completions",
        timeoutSeconds: 300,
        localService: {
          command: "<DS4_DIR>/ds4-server",
          args: [
            "--model",
            "<DS4_DIR>/ds4flash.gguf",
            "--host",
            "127.0.0.1",
            "--port",
            "18000",
            "--ctx",
            "32768",
            "--tokens",
            "128",
          ],
          cwd: "<DS4_DIR>",
          healthUrl: "http://127.0.0.1:18000/v1/models",
          readyTimeoutMs: 300000,
          idleStopMs: 0,
        },
        models: [
          {
            id: "deepseek-v4-flash",
            name: "DeepSeek V4 Flash (ds4)",
            reasoning: true,
            input: ["text"],
            cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 },
            contextWindow: 32768,
            maxTokens: 128,
            compat: {
              supportsUsageInStreaming: true,
              supportsReasoningEffort: true,
              maxTokensField: "max_tokens",
              supportsStrictMode: false,
              thinkingFormat: "deepseek",
              supportedReasoningEfforts: ["low", "medium", "high", "xhigh"],
            },
          },
        ],
      },
    },
  },
}
command должен быть абсолютным путем к исполняемому файлу. Поиск через оболочку и раскрытие ~ не используются. См. Локальные сервисы моделей для всех полей localService.

​
Think Max

ds4 применяет Think Max только когда оба условия истинны:
  • ds4-server запускается с --ctx 393216 или выше.
  • Запрос использует reasoning_effort: "max" или эквивалентное поле усилия ds4.
Если вы запускаете такой большой контекст, обновите и флаги сервера, и метаданные модели OpenClaw: 
{
  contextWindow: 393216,
  maxTokens: 384000,
  compat: {
    supportsUsageInStreaming: true,
    supportsReasoningEffort: true,
    maxTokensField: "max_tokens",
    supportsStrictMode: false,
    thinkingFormat: "deepseek",
    supportedReasoningEfforts: ["low", "medium", "high", "xhigh", "max"],
  },
}

​
Тестирование

Начните с прямой HTTP-проверки: 
curl http://127.0.0.1:18000/v1/chat/completions \
  -H 'content-type: application/json' \
  -d '{"model":"deepseek-v4-flash","messages":[{"role":"user","content":"Reply with exactly: ds4-ok"}],"max_tokens":16,"stream":false,"thinking":{"type":"disabled"}}'
Затем проверьте маршрутизацию модели OpenClaw: 
openclaw infer model run \
  --local \
  --model ds4/deepseek-v4-flash \
  --thinking off \
  --prompt "Reply with exactly: openclaw-ds4-ok" \
  --json
Для полного smoke-теста агента и вызова инструментов используйте контекст не меньше 32768: 
openclaw agent \
  --local \
  --session-id ds4-tool-smoke \
  --model ds4/deepseek-v4-flash \
  --thinking off \
  --message "Use the shell command pwd once, then reply exactly: tool-ok <output>" \
  --json \
  --timeout 240
Ожидаемый результат:
  • executionTrace.winnerProvider равен ds4
  • executionTrace.winnerModel равен deepseek-v4-flash
  • toolSummary.calls не меньше 1
  • finalAssistantVisibleText начинается с tool-ok

​
Устранение неполадок

ds4 не запущен или не привязан к хосту и порту из baseUrl. Запустите ds4-server, затем повторите попытку:
curl http://127.0.0.1:18000/v1/models
Настроенный --ctx слишком мал для хода OpenClaw. Увеличьте ds4-server --ctx, затем обновите models.providers.ds4.models[].contextWindow, чтобы значения совпадали. Полным ходам агента с инструментами требуется существенно больше контекста, чем прямому curl-запросу с одним сообщением.
ds4 использует Think Max только когда --ctx не меньше 393216, а запрос запрашивает reasoning_effort: "max". Меньшие контексты откатываются к высокому уровню рассуждения.
У ds4 есть фаза холодного размещения Metal и прогрева модели. Используйте localService.readyTimeoutMs: 300000, когда OpenClaw запускает сервер по требованию.

​
Связанные материалы

Local model services

Запускайте локальные серверы моделей по требованию перед запросами к моделям.

Local models

Выбирайте и эксплуатируйте локальные бэкенды моделей.

Model providers

Настраивайте ссылки на провайдеров, аутентификацию и failover.

DeepSeek

Нативное поведение провайдера DeepSeek и элементы управления thinking.