Chuyển đến nội dung chính
NVIDIA cung cấp API tương thích với OpenAI tại https://integrate.api.nvidia.com/v1 cho các mô hình mở miễn phí. Xác thực bằng khóa API từ build.nvidia.com. OpenClaw đặt mặc định nhà cung cấp NVIDIA là Nemotron 3 Ultra, mô hình suy luận chủ động 550B tổng / 55B active của NVIDIA cho công việc tác nhân với ngữ cảnh dài.

Bắt đầu

1

Lấy khóa API của bạn

Tạo khóa API tại build.nvidia.com.
2

Xuất khóa và chạy onboarding

export NVIDIA_API_KEY="nvapi-..."
openclaw onboard --auth-choice nvidia-api-key
3

Đặt mô hình NVIDIA

openclaw models set nvidia/nvidia/nemotron-3-ultra-550b-a55b
Nếu bạn truyền --nvidia-api-key thay vì biến môi trường, giá trị sẽ được ghi vào lịch sử shell và đầu ra ps. Ưu tiên biến môi trường NVIDIA_API_KEY khi có thể.
Để thiết lập không tương tác, bạn cũng có thể truyền khóa trực tiếp:
openclaw onboard --auth-choice nvidia-api-key --nvidia-api-key "nvapi-..."

Ví dụ cấu hình

{
  env: { NVIDIA_API_KEY: "nvapi-..." },
  models: {
    providers: {
      nvidia: {
        baseUrl: "https://integrate.api.nvidia.com/v1",
        api: "openai-completions",
      },
    },
  },
  agents: {
    defaults: {
      model: { primary: "nvidia/nvidia/nemotron-3-ultra-550b-a55b" },
    },
  },
}

Danh mục nổi bật

Khi khóa API NVIDIA được cấu hình, các luồng thiết lập và chọn mô hình của OpenClaw thử dùng danh mục mô hình nổi bật công khai của NVIDIA từ https://assets.ngc.nvidia.com/products/api-catalog/featured-models.json và lưu kết quả đã xếp hạng trong bộ nhớ đệm trong 24 giờ. Vì vậy, các mô hình nổi bật mới từ build.nvidia.com sẽ xuất hiện trong các bề mặt thiết lập và chọn mô hình mà không cần chờ bản phát hành OpenClaw. Khi nguồn cấp trực tiếp khả dụng, mô hình đầu tiên được trả về là tùy chọn mặc định hiển thị trong quá trình thiết lập NVIDIA. Quá trình fetch dùng chính sách máy chủ HTTPS cố định cho assets.ngc.nvidia.com. Nếu không có khóa API NVIDIA nào được cấu hình, hoặc nếu danh mục công khai đó không khả dụng hoặc sai định dạng, OpenClaw sẽ quay về danh mục được đóng gói kèm và mặc định được đóng gói kèm bên dưới.

Nemotron 3 Ultra

Nemotron 3 Ultra là mô hình NVIDIA mặc định trong OpenClaw. Trang build của NVIDIA cho nvidia/nemotron-3-ultra-550b-a55b liệt kê mô hình này là endpoint miễn phí khả dụng với đặc tả ngữ cảnh 1M token. Danh mục được đóng gói kèm ghi nhận đầu ra tối đa 16.384 token để khớp với yêu cầu mẫu tương thích OpenAI hiện tại của NVIDIA cho endpoint được lưu trữ. Dùng Ultra cho mặc định NVIDIA có năng lực cao nhất. Giữ Super được chọn khi bạn muốn tùy chọn Nemotron 3 nhỏ hơn, hoặc chọn một trong các mô hình bên thứ ba được lưu trữ trong danh mục của NVIDIA khi ngữ cảnh, độ trễ hoặc hành vi của chúng phù hợp hơn. Hàng Ultra được đóng gói kèm gửi chat_template_kwargs.enable_thinking: falseforce_nonempty_content: true theo mặc định để đầu ra trò chuyện thông thường nằm trong câu trả lời hiển thị thay vì để lộ văn bản suy luận.

Danh mục dự phòng được đóng gói kèm

Tham chiếu mô hìnhTênNgữ cảnhĐầu ra tối đaGhi chú
nvidia/nvidia/nemotron-3-ultra-550b-a55bNVIDIA Nemotron 3 Ultra 550B1,000,00016,384Mặc định
nvidia/nvidia/nemotron-3-super-120b-a12bNVIDIA Nemotron 3 Super 120B1,048,5768,192Dự phòng nổi bật
nvidia/moonshotai/kimi-k2.5Kimi K2.5262,1448,192Dự phòng nổi bật
nvidia/minimaxai/minimax-m2.7Minimax M2.7196,6088,192Dự phòng nổi bật
nvidia/z-ai/glm-5.1GLM 5.1202,7528,192Dự phòng nổi bật
nvidia/minimaxai/minimax-m2.5MiniMax M2.5196,6088,192Đã ngừng khuyến nghị, tương thích nâng cấp
nvidia/z-ai/glm5GLM-5202,7528,192Đã ngừng khuyến nghị, tương thích nâng cấp

Cấu hình nâng cao

Nhà cung cấp tự động bật khi biến môi trường NVIDIA_API_KEY được đặt. Không cần cấu hình nhà cung cấp rõ ràng ngoài khóa.
OpenClaw ưu tiên danh mục mô hình nổi bật công khai của NVIDIA khi xác thực NVIDIA được cấu hình và lưu vào bộ nhớ đệm trong 24 giờ. Danh mục dự phòng được đóng gói kèm là tĩnh và giữ các tham chiếu đã phát hành nhưng đã ngừng khuyến nghị để tương thích nâng cấp. Chi phí mặc định là 0 trong mã nguồn vì NVIDIA hiện cung cấp quyền truy cập API miễn phí cho các mô hình được liệt kê.
NVIDIA dùng endpoint completions chuẩn /v1. Mọi công cụ tương thích OpenAI sẽ hoạt động ngay với URL cơ sở của NVIDIA.
Yêu cầu mẫu Ultra của NVIDIA dùng chat_template_kwargs.enable_thinkingreasoning_budget cho đầu ra suy luận. Hàng Ultra được đóng gói kèm của OpenClaw tắt suy nghĩ theo mẫu theo mặc định cho mục đích trò chuyện thông thường. Nếu bạn cần chọn dùng đầu ra suy luận của NVIDIA hoặc buộc các trường yêu cầu đặc thù NVIDIA khác, hãy đặt tham số theo từng mô hình và giữ các ghi đè đặc thù nhà cung cấp trong phạm vi mô hình NVIDIA:
{
  agents: {
    defaults: {
      models: {
        "nvidia/nvidia/nemotron-3-ultra-550b-a55b": {
          params: {
            chat_template_kwargs: { enable_thinking: true },
            extra_body: { reasoning_budget: 16384 },
          },
        },
      },
    },
  },
}
params.extra_body là ghi đè thân yêu cầu tương thích OpenAI cuối cùng, vì vậy chỉ dùng nó cho các trường mà NVIDIA tài liệu hóa cho endpoint đã chọn.
Một số mô hình tùy chỉnh được lưu trữ trên NVIDIA có thể mất nhiều thời gian hơn bộ giám sát nhàn rỗi mặc định của mô hình trước khi chúng phát ra mảnh phản hồi đầu tiên. Với các mục nhà cung cấp NVIDIA tùy chỉnh, hãy tăng thời gian chờ của nhà cung cấp thay vì tăng toàn bộ thời gian chờ runtime tác nhân:
{
  models: {
    providers: {
      "custom-integrate-api-nvidia-com": {
        baseUrl: "https://integrate.api.nvidia.com/v1",
        api: "openai-completions",
        apiKey: "NVIDIA_API_KEY",
        timeoutSeconds: 300,
      },
    },
  },
  agents: {
    defaults: {
      models: {
        "custom-integrate-api-nvidia-com/meta/llama-3.1-70b-instruct": {
          params: { thinking: "off" },
        },
      },
    },
  },
}
Các mô hình NVIDIA hiện miễn phí để sử dụng. Kiểm tra build.nvidia.com để biết tình trạng khả dụng mới nhất và chi tiết giới hạn tốc độ.

Liên quan

Chọn mô hình

Chọn nhà cung cấp, tham chiếu mô hình và hành vi chuyển đổi dự phòng.

Tham chiếu cấu hình

Tham chiếu cấu hình đầy đủ cho tác nhân, mô hình và nhà cung cấp.