Modelos locais

​

Requisitos mínimos de hardware

​

Escolha um backend

​

LM Studio + modelo local grande (API Responses)

{
  agents: {
    defaults: {
      model: { primary: "lmstudio/my-local-model" },
      models: {
        "anthropic/claude-opus-4-6": { alias: "Opus" },
        "lmstudio/my-local-model": { alias: "Local" },
      },
    },
  },
  models: {
    mode: "merge",
    providers: {
      lmstudio: {
        baseUrl: "http://127.0.0.1:1234/v1",
        apiKey: "lmstudio",
        api: "openai-responses",
        models: [
          {
            id: "my-local-model",
            name: "Local Model",
            reasoning: false,
            input: ["text"],
            cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 },
            contextWindow: 196608,
            maxTokens: 8192,
          },
        ],
      },
    },
  },
}

• Instale o LM Studio: https://lmstudio.ai
• Baixe a maior versão de modelo disponível (evite variantes “small” ou fortemente quantizadas), inicie o servidor e confirme que http://127.0.0.1:1234/v1/models lista o modelo.
• Substitua my-local-model pelo ID real do modelo exibido no LM Studio.
• Mantenha o modelo carregado; o carregamento a frio aumenta a latência de inicialização.
• Ajuste contextWindow/maxTokens se a sua versão do LM Studio usar valores diferentes.
• Para WhatsApp, use a API Responses para que somente o texto final seja enviado.
• Mantenha models.mode: "merge" para que os modelos hospedados continuem disponíveis como alternativas.

​

Configuração híbrida: modelo hospedado principal e modelo local alternativo

{
  agents: {
    defaults: {
      model: {
        primary: "anthropic/claude-sonnet-4-6",
        fallbacks: ["lmstudio/my-local-model", "anthropic/claude-opus-4-6"],
      },
      models: {
        "anthropic/claude-sonnet-4-6": { alias: "Sonnet" },
        "lmstudio/my-local-model": { alias: "Local" },
        "anthropic/claude-opus-4-6": { alias: "Opus" },
      },
    },
  },
  models: {
    mode: "merge",
    providers: {
      lmstudio: {
        baseUrl: "http://127.0.0.1:1234/v1",
        apiKey: "lmstudio",
        api: "openai-responses",
        models: [
          {
            id: "my-local-model",
            name: "Local Model",
            reasoning: false,
            input: ["text"],
            cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 },
            contextWindow: 196608,
            maxTokens: 8192,
          },
        ],
      },
    },
  },
}

​

Hospedagem regional / roteamento de dados

​

Outros proxies locais compatíveis com OpenAI

{
  agents: {
    defaults: {
      model: { primary: "local/my-local-model" },
    },
  },
  models: {
    mode: "merge",
    providers: {
      local: {
        baseUrl: "http://127.0.0.1:8000/v1",
        apiKey: "sk-local",
        api: "openai-completions",
        timeoutSeconds: 300,
        models: [
          {
            id: "my-local-model",
            name: "Local Model",
            reasoning: false,
            input: ["text"],
            cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 },
            contextWindow: 120000,
            maxTokens: 8192,
          },
        ],
      },
    },
  },
}

• models.providers.mlx.models[].id: "mlx-community/Qwen3-30B-A3B-6bit"
• agents.defaults.model.primary: "mlx/mlx-community/Qwen3-30B-A3B-6bit"

• O OpenClaw trata essas rotas como proxies compatíveis com OpenAI, não como endpoints nativos da OpenAI.
• A formatação de solicitações exclusiva da OpenAI nativa não se aplica: sem service_tier, sem store da API Responses, sem formatação de payload de compatibilidade de raciocínio da OpenAI e sem dicas de cache de prompt.
• Cabeçalhos ocultos de atribuição do OpenClaw (originator, version, User-Agent) não são injetados em URLs de proxies personalizados.

• Conteúdo somente como string: alguns servidores aceitam apenas messages[].content como string, não matrizes estruturadas de partes de conteúdo. Defina models.providers.<provider>.models[].compat.requiresStringContent: true.
• Chaves de mensagem estritas: se o servidor rejeitar entradas de mensagem com mais que role/content, defina compat.strictMessageKeys: true.
• Texto de ferramenta entre colchetes: alguns modelos locais emitem solicitações de ferramenta independentes como texto entre colchetes, como [tool_name], seguido de JSON e [END_TOOL_REQUEST]. O OpenClaw as promove a chamadas reais de ferramenta somente quando o nome corresponde exatamente a uma ferramenta registrada para o turno; caso contrário, o conteúdo permanece como texto oculto e não compatível.
• Texto não estruturado semelhante a uma chamada de ferramenta: se um modelo emitir texto no estilo JSON/XML/ReAct que pareça uma chamada de ferramenta, mas não seja uma invocação estruturada, o OpenClaw o mantém como texto e registra um aviso com o ID da execução, provedor/modelo, padrão detectado e nome da ferramenta, quando disponível. Isso representa uma incompatibilidade do provedor/modelo, não uma execução de ferramenta concluída.
• Obrigatoriedade do uso de ferramentas: se as ferramentas aparecerem como texto do assistente (JSON/XML/ReAct bruto ou uma matriz tool_calls vazia), primeiro confirme se o modelo de chat/analisador do servidor oferece suporte a chamadas de ferramenta. Se o analisador funcionar somente quando o uso de ferramentas for obrigatório, substitua o valor padrão do proxy, tool_choice: "auto", por modelo:
  {
    agents: {
      defaults: {
        models: {
          "local/my-local-model": {
            params: {
              extra_body: {
                tool_choice: "required",
              },
            },
          },
        },
      },
    },
  }
  
  Use isso somente quando todos os turnos normais precisarem chamar uma ferramenta. Substitua local/my-local-model pela referência exata obtida em openclaw models list ou defina-a pela CLI:
  openclaw config set agents.defaults.models '{"local/my-local-model":{"params":{"extra_body":{"tool_choice":"required"}}}}' --strict-json --merge
  
• Níveis adicionais de esforço de raciocínio: se um modelo personalizado compatível com OpenAI aceitar níveis de esforço de raciocínio da OpenAI além do perfil integrado, declare-os no bloco de compatibilidade do modelo. Adicionar "xhigh" o disponibiliza para essa referência de modelo em /think xhigh, seletores de sessão, validação do Gateway e validação de llm-task:
  {
    models: {
      providers: {
        local: {
          baseUrl: "http://127.0.0.1:8000/v1",
          apiKey: "sk-local",
          api: "openai-responses",
          models: [
            {
              id: "gpt-5.4",
              name: "GPT 5.4 via local proxy",
              reasoning: true,
              input: ["text"],
              cost: { input: 0, output: 0, cacheRead: 0, cacheWrite: 0 },
              contextWindow: 196608,
              maxTokens: 8192,
              compat: {
                supportedReasoningEfforts: ["low", "medium", "high", "xhigh"],
                reasoningEffortMap: { xhigh: "xhigh" },
              },
            },
          ],
        },
      },
    },
  }
  

​

Backends menores ou mais rigorosos

1. Confirme que o modelo local responde — sem ferramentas, sem contexto do agente:
   openclaw infer model run --local --model <provider/model> --prompt "Reply with exactly: pong" --json
   
2. Confirme o roteamento do Gateway — envia apenas o prompt, ignorando a transcrição, a inicialização de AGENTS, a montagem do mecanismo de contexto, as ferramentas e os servidores MCP incluídos, mas ainda testa o roteamento do Gateway, a autenticação e a seleção do provedor:
   openclaw infer model run --gateway --model <provider/model> --prompt "Reply with exactly: pong" --json
   
3. Experimente o modo enxuto se ambas as sondagens forem bem-sucedidas, mas as interações reais do agente falharem com chamadas de ferramenta malformadas ou prompts grandes demais: defina agents.defaults.experimental.localModelLean: true. Ele remove ferramentas pesadas de navegador, cron, mensagens, geração de mídia, voz e PDF, a menos que sejam explicitamente necessárias, e coloca por padrão catálogos maiores de ferramentas atrás de controles estruturados de Pesquisa de Ferramentas, mantendo exec diretamente visível. Consulte Recursos experimentais -> Modo enxuto para modelos locais para obter detalhes e saber como confirmar que ele está ativado.
4. Desative completamente as ferramentas como último recurso definindo models.providers.<provider>.models[].compat.supportsTools: false para esse modelo — o agente então será executado sem chamadas de ferramenta.
5. Além disso, o gargalo está no sistema upstream. Se o backend ainda falhar apenas em execuções maiores do OpenClaw após o modo enxuto e supportsTools: false, o problema restante geralmente está no próprio modelo ou servidor — janela de contexto, memória da GPU, remoção do cache KV ou um bug no backend — e não na camada de transporte do OpenClaw.

​

Solução de problemas

• O Gateway não consegue acessar o proxy? curl http://127.0.0.1:1234/v1/models.
• O modelo do LM Studio foi descarregado? Recarregue-o; uma inicialização a frio é uma causa comum de “travamento”.
• O servidor local informa terminated, ECONNRESET ou fecha o fluxo no meio da interação? O OpenClaw registra nos diagnósticos um model.call.error.failureKind de baixa cardinalidade, além de um instantâneo de RSS/heap do processo do OpenClaw. Para pressão de memória no LM Studio/Ollama, compare esse registro de data e hora com o log do servidor ou com um log de falha/jetsam do macOS para confirmar se o servidor do modelo foi encerrado.
• Erros de contexto? O OpenClaw deriva os limites da verificação preliminar da janela de contexto a partir da janela detectada do modelo (ou da janela limitada quando agents.defaults.contextTokens a reduz), emitindo um aviso abaixo de 20%, com um piso de 8k, e impondo um bloqueio abaixo de 10%, com um piso de 4k (limitado à janela de contexto efetiva para que metadados superdimensionados do modelo não rejeitem um limite válido definido pelo usuário). Reduza contextWindow ou aumente o limite de contexto do servidor/modelo.
• messages[].content ... expected a string? Adicione compat.requiresStringContent: true à entrada desse modelo.
• validation.keys ou “message entries only allow role and content”? Adicione compat.strictMessageKeys: true à entrada desse modelo.
• As chamadas diretas a /v1/chat/completions funcionam, mas openclaw infer model run --local falha no Gemma ou em outro modelo local? Verifique primeiro a URL do provedor, a referência do modelo, o marcador de autenticação e os logs do servidor — model run ignora completamente as ferramentas do agente. Se model run for bem-sucedido, mas interações maiores do agente falharem, reduza a superfície de ferramentas com localModelLean ou compat.supportsTools: false.
• As chamadas de ferramenta aparecem como texto JSON/XML/ReAct bruto ou o provedor retorna uma matriz tool_calls vazia? Não adicione um proxy que converta indiscriminadamente o texto do assistente em execução de ferramentas — primeiro corrija o modelo de chat/analisador do servidor. Se o modelo funcionar apenas quando o uso de ferramentas for obrigatório, adicione a substituição params.extra_body.tool_choice: "required" acima e use essa entrada de modelo somente em sessões nas quais se espera uma chamada de ferramenta em cada interação.
• Segurança: modelos locais ignoram os filtros do provedor. Mantenha os agentes com escopo restrito e a Compaction ativada para limitar o raio de impacto de injeções de prompt.

​

Conteúdo relacionado

• Referência de configuração
• Failover de modelos