ds4

ds4 exécute DeepSeek V4 Flash à partir d’un backend Metal local avec une API /v1 compatible avec OpenAI. OpenClaw se connecte à ds4 par l’intermédiaire de la famille de fournisseurs générique openai-completions. ds4 n’est pas un Plugin fournisseur intégré à OpenClaw. Configurez-le sous models.providers.ds4, puis sélectionnez ds4/deepseek-v4-flash.

Propriété	Valeur
Identifiant du fournisseur	`ds4`
Plugin	aucun (configuration uniquement)
API	Chat Completions compatible avec OpenAI (`openai-completions`)
URL de base	`http://127.0.0.1:18000/v1` (recommandée)
Identifiant du modèle	`deepseek-v4-flash`
Appels d’outils	`tools` / `tool_calls` au format OpenAI
Raisonnement	`thinking` et `reasoning_effort` au format DeepSeek

Prérequis

macOS avec prise en charge de Metal.
Une copie de travail fonctionnelle de ds4 contenant ds4-server et le fichier GGUF de DeepSeek V4 Flash.
Suffisamment de mémoire pour le contexte choisi ; les valeurs --ctx plus élevées allouent davantage de mémoire KV au démarrage du serveur.

Les tours d’agent OpenClaw incluent les schémas d’outils et le contexte de l’espace de travail. Un contexte réduit tel que --ctx 4096 peut réussir les tests curl directs, mais faire échouer les exécutions complètes de l’agent avec 500 prompt exceeds context. Utilisez au moins --ctx 32768 pour les tests de bon fonctionnement de l’agent et des outils. Utilisez --ctx 393216 uniquement avec suffisamment de mémoire et pour activer Think Max de ds4.

Démarrage rapide

Start ds4-server

Remplacez <DS4_DIR> par le chemin de votre copie de travail ds4.

<DS4_DIR>/ds4-server \
  --model <DS4_DIR>/ds4flash.gguf \
  --host 127.0.0.1 \
  --port 18000 \
  --ctx 32768 \
  --tokens 128

Verify the OpenAI-compatible endpoint

curl http://127.0.0.1:18000/v1/models

La réponse doit inclure deepseek-v4-flash.

Add the OpenClaw provider config

Ajoutez la configuration de la section Configuration complète, puis exécutez une vérification ponctuelle du modèle :

openclaw infer model run \
  --local \
  --model ds4/deepseek-v4-flash \
  --thinking off \
  --prompt "Reply with exactly: openclaw-ds4-ok" \
  --json

Configuration complète

Utilisez cette configuration lorsque ds4 est déjà en cours d’exécution sur 127.0.0.1:18000.

{
  agents: {
    defaults: {
      model: { primary: "ds4/deepseek-v4-flash" },
      models: {
        "ds4/deepseek-v4-flash": {
          alias: "DS4 local",
        },
      },
    },
  },
  models: {
    mode: "merge",
    providers: {
      ds4: {
        baseUrl: "http://127.0.0.1:18000/v1",
        apiKey: "ds4-local",
        api: "openai-completions",
        timeoutSeconds: 300,
        models: [
          {
            id: "deepseek-v4-flash",
            name: "DeepSeek V4 Flash (ds4)",
            reasoning: true,
            input: ["text"],
            cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 },
            contextWindow: 32768,
            maxTokens: 128,
            compat: {
              supportsUsageInStreaming: true,
              supportsReasoningEffort: true,
              maxTokensField: "max_tokens",
              supportsStrictMode: false,
              thinkingFormat: "deepseek",
              supportedReasoningEfforts: ["low", "medium", "high", "xhigh"],
            },
          },
        ],
      },
    },
  },
}

Maintenez contextWindow aligné sur ds4-server --ctx. Maintenez maxTokens aligné sur --tokens, sauf si vous souhaitez délibérément qu’OpenClaw demande une sortie plus courte que la valeur par défaut du serveur.

Démarrage à la demande

OpenClaw peut démarrer ds4 uniquement lorsqu’un modèle ds4/... est sélectionné. Ajoutez localService à la même entrée de fournisseur :

{
  models: {
    providers: {
      ds4: {
        baseUrl: "http://127.0.0.1:18000/v1",
        apiKey: "ds4-local",
        api: "openai-completions",
        timeoutSeconds: 300,
        localService: {
          command: "<DS4_DIR>/ds4-server",
          args: [
            "--model",
            "<DS4_DIR>/ds4flash.gguf",
            "--host",
            "127.0.0.1",
            "--port",
            "18000",
            "--ctx",
            "32768",
            "--tokens",
            "128",
          ],
          cwd: "<DS4_DIR>",
          healthUrl: "http://127.0.0.1:18000/v1/models",
          readyTimeoutMs: 300000,
          idleStopMs: 0,
        },
        models: [
          {
            id: "deepseek-v4-flash",
            name: "DeepSeek V4 Flash (ds4)",
            reasoning: true,
            input: ["text"],
            cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 },
            contextWindow: 32768,
            maxTokens: 128,
            compat: {
              supportsUsageInStreaming: true,
              supportsReasoningEffort: true,
              maxTokensField: "max_tokens",
              supportsStrictMode: false,
              thinkingFormat: "deepseek",
              supportedReasoningEfforts: ["low", "medium", "high", "xhigh"],
            },
          },
        ],
      },
    },
  },
}

command doit être un chemin absolu vers un exécutable. La recherche dans l’environnement shell et le développement de ~ ne sont pas utilisés. Consultez Services de modèles locaux pour tous les champs de localService.

Think Max

ds4 applique Think Max uniquement lorsque les deux conditions suivantes sont remplies :

ds4-server démarre avec --ctx 393216 ou une valeur supérieure.
La requête utilise reasoning_effort: "max" (ou le champ d’effort ds4 équivalent).

Si vous utilisez un contexte aussi étendu, mettez à jour à la fois les options du serveur et les métadonnées du modèle OpenClaw :

{
  contextWindow: 393216,
  maxTokens: 384000,
  compat: {
    supportsUsageInStreaming: true,
    supportsReasoningEffort: true,
    maxTokensField: "max_tokens",
    supportsStrictMode: false,
    thinkingFormat: "deepseek",
    supportedReasoningEfforts: ["low", "medium", "high", "xhigh", "max"],
  },
}

Test

Vérification HTTP directe, sans passer par OpenClaw :

curl http://127.0.0.1:18000/v1/chat/completions \
  -H 'content-type: application/json' \
  -d '{"model":"deepseek-v4-flash","messages":[{"role":"user","content":"Reply with exactly: ds4-ok"}],"max_tokens":16,"stream":false,"thinking":{"type":"disabled"}}'

Routage du modèle OpenClaw (identique à la vérification du démarrage rapide) :

openclaw infer model run \
  --local \
  --model ds4/deepseek-v4-flash \
  --thinking off \
  --prompt "Reply with exactly: openclaw-ds4-ok" \
  --json

Test de bon fonctionnement complet de l’agent et des appels d’outils, avec un contexte d’au moins 32768 :

openclaw agent \
  --local \
  --session-id ds4-tool-smoke \
  --model ds4/deepseek-v4-flash \
  --thinking off \
  --message "Use the shell command pwd once, then reply exactly: tool-ok <output>" \
  --json \
  --timeout 240

Résultat attendu :

executionTrace.winnerProvider vaut ds4
executionTrace.winnerModel vaut deepseek-v4-flash
toolSummary.calls vaut au moins 1
finalAssistantVisibleText commence par tool-ok

Dépannage

curl /v1/models cannot connect

ds4 n’est pas en cours d’exécution ou n’est pas lié à l’hôte ou au port indiqué dans baseUrl. Démarrez ds4-server, puis réessayez :

curl http://127.0.0.1:18000/v1/models

500 prompt exceeds context

La valeur --ctx configurée est trop faible pour le tour OpenClaw. Augmentez ds4-server --ctx, puis mettez à jour models.providers.ds4.models[].contextWindow avec la même valeur. Les tours complets de l’agent avec des outils nécessitent nettement plus de contexte qu’une requête curl directe contenant un seul message.

Think Max does not activate

ds4 utilise Think Max uniquement lorsque --ctx vaut au moins 393216 et que la requête demande reasoning_effort: "max". Les contextes plus petits utilisent à la place un niveau de raisonnement élevé.

The first request is slow

ds4 présente une phase initiale de chargement dans Metal et de préchauffage du modèle. Définissez localService.readyTimeoutMs: 300000 lorsqu’OpenClaw démarre le serveur à la demande.

Pages connexes

Local model services

Démarrez les serveurs de modèles locaux à la demande avant les requêtes de modèle.

Local models

Choisissez et exploitez des backends de modèles locaux.

Model providers

Configurez les références des fournisseurs, l’authentification et le basculement.

DeepSeek

Comportement natif du fournisseur DeepSeek et contrôles de la réflexion.

Overview

Concepts and configuration

Providers

Prérequis

Démarrage rapide

Configuration complète

Démarrage à la demande

Think Max

Test

Dépannage

Pages connexes

Local model services

Local models

Model providers

DeepSeek

​Prérequis

​Démarrage rapide

​Configuration complète

​Démarrage à la demande

​Think Max

​Test

​Dépannage

​Pages connexes

Local model services

Local models

Model providers

DeepSeek

Prérequis

Démarrage rapide

Configuration complète

Démarrage à la demande

Think Max

Test

Dépannage

Pages connexes