Hugging Face (इन्फ़रेंस)

Hugging Face Inference Providers एक टोकन के अंतर्गत कई होस्ट किए गए मॉडल (DeepSeek, Llama और अन्य) के लिए OpenAI-संगत चैट कम्प्लीशन्स राउटर उपलब्ध कराता है। OpenClaw केवल चैट कम्प्लीशन्स एंडपॉइंट से संचार करता है; टेक्स्ट-टू-इमेज, एम्बेडिंग या स्पीच के लिए सीधे HF इन्फ़रेंस क्लाइंट का उपयोग करें।

गुण	मान
प्रोवाइडर आईडी	`huggingface`
Plugin	बंडल किया गया (डिफ़ॉल्ट रूप से सक्षम, इंस्टॉल करने का कोई चरण नहीं)
प्रमाणीकरण एनवायरनमेंट वेरिएबल	`HUGGINGFACE_HUB_TOKEN` या `HF_TOKEN` (सूक्ष्म अनुमतियों वाला टोकन)
API	OpenAI-संगत (`https://router.huggingface.co/v1`)
बिलिंग	एक HF टोकन; मूल्य निर्धारण मुफ़्त टियर के साथ प्रोवाइडर की दरों का अनुसरण करता है

आरंभ करना

सूक्ष्म अनुमतियों वाला टोकन बनाएँ

Hugging Face Settings Tokens पर जाएँ और सूक्ष्म अनुमतियों वाला नया टोकन बनाएँ।

टोकन के लिए Make calls to Inference Providers अनुमति सक्षम होनी चाहिए, अन्यथा API अनुरोध अस्वीकार कर दिए जाएँगे।

ऑनबोर्डिंग चलाएँ

प्रोवाइडर ड्रॉपडाउन में Hugging Face चुनें, फिर संकेत मिलने पर अपनी API कुंजी दर्ज करें:

openclaw onboard --auth-choice huggingface-api-key

डिफ़ॉल्ट मॉडल चुनें

Default Hugging Face model ड्रॉपडाउन में कोई मॉडल चुनें। आपका टोकन मान्य होने पर सूची Inference API से लोड होती है; अन्यथा OpenClaw नीचे दिया गया अंतर्निहित कैटलॉग दिखाता है। आपका चयन agents.defaults.model.primary के रूप में सहेजा जाता है:

{
  agents: {
    defaults: {
      model: { primary: "huggingface/deepseek-ai/DeepSeek-R1" },
    },
  },
}

सत्यापित करें कि मॉडल उपलब्ध है

openclaw models list --provider huggingface

गैर-इंटरैक्टिव सेटअप

openclaw onboard --non-interactive \
  --mode local \
  --auth-choice huggingface-api-key \
  --huggingface-api-key "$HF_TOKEN"

huggingface/deepseek-ai/DeepSeek-R1 को डिफ़ॉल्ट मॉडल के रूप में सेट करता है।

मॉडल आईडी

मॉडल संदर्भ huggingface/<org>/<model> प्रारूप (Hub-शैली की आईडी) का उपयोग करते हैं। OpenClaw का अंतर्निहित कैटलॉग:

मॉडल	संदर्भ (`huggingface/` उपसर्ग के साथ)
DeepSeek R1	`deepseek-ai/DeepSeek-R1`
DeepSeek V3.1	`deepseek-ai/DeepSeek-V3.1`
GPT-OSS 120B	`openai/gpt-oss-120b`

आपका टोकन मान्य होने पर OpenClaw ऑनबोर्डिंग के समय और Gateway के आरंभ होने पर GET https://router.huggingface.co/v1/models से अन्य सभी मॉडल भी खोजता है, इसलिए आपके कैटलॉग में ऊपर दिए गए तीन मॉडलों से कहीं अधिक मॉडल शामिल हो सकते हैं। आप किसी भी मॉडल आईडी के अंत में :fastest या :cheapest जोड़ सकते हैं; HF का राउटर अनुरूप इन्फ़रेंस प्रोवाइडर तक रूट करता है। Inference Provider settings में अपना डिफ़ॉल्ट प्रोवाइडर क्रम सेट करें।

उन्नत कॉन्फ़िगरेशन

मॉडल खोज और ऑनबोर्डिंग ड्रॉपडाउन

OpenClaw निम्न अनुरोध से मॉडल खोजता है:

GET https://router.huggingface.co/v1/models
Authorization: Bearer $HUGGINGFACE_HUB_TOKEN   # या $HF_TOKEN

प्रतिक्रिया OpenAI-शैली की होती है: { "object": "list", "data": [ { "id": "Qwen/Qwen3-8B", "owned_by": "Qwen", ... }, ... ] }।कॉन्फ़िगर की गई कुंजी (ऑनबोर्डिंग, HUGGINGFACE_HUB_TOKEN या HF_TOKEN) के साथ, इंटरैक्टिव सेटअप के दौरान Default Hugging Face model ड्रॉपडाउन में इस एंडपॉइंट से प्राप्त मॉडल भरे जाते हैं। Gateway आरंभ होने पर कैटलॉग को रीफ़्रेश करने के लिए वही कॉल दोहराई जाती है। खोजे गए मॉडलों को ऊपर दिए गए अंतर्निहित कैटलॉग के साथ मर्ज किया जाता है (आईडी मेल खाने पर कॉन्टेक्स्ट विंडो और लागत जैसे मेटाडेटा के लिए इसका उपयोग होता है)। यदि अनुरोध विफल होता है, कोई डेटा नहीं लौटाता या कोई कुंजी सेट नहीं है, तो OpenClaw केवल अंतर्निहित कैटलॉग का उपयोग करता है।प्रोवाइडर हटाए बिना खोज अक्षम करें:

openclaw config set plugins.entries.huggingface.config.discovery.enabled false

मॉडल नाम, उपनाम और नीति प्रत्यय

API से नाम: उपलब्ध होने पर खोजे गए मॉडल API के name, title या display_name का उपयोग करते हैं; अन्यथा OpenClaw मॉडल आईडी से नाम प्राप्त करता है (उदाहरण के लिए, deepseek-ai/DeepSeek-R1 “DeepSeek R1” बन जाता है)।
प्रदर्शित नाम बदलें: कॉन्फ़िगरेशन में प्रत्येक मॉडल के लिए कस्टम लेबल सेट करें:

{
  agents: {
    defaults: {
      models: {
        "huggingface/deepseek-ai/DeepSeek-R1": { alias: "DeepSeek R1 (fast)" },
        "huggingface/deepseek-ai/DeepSeek-R1:cheapest": { alias: "DeepSeek R1 (cheap)" },
      },
    },
  },
}

नीति प्रत्यय: :fastest और :cheapest HF राउटर के नियम हैं, इन्हें OpenClaw पुनर्लिखित नहीं करता: प्रत्यय को मॉडल आईडी के भाग के रूप में ज्यों का त्यों भेजा जाता है और HF का राउटर अनुरूप इन्फ़रेंस प्रोवाइडर चुनता है। यदि आप प्रत्येक प्रत्यय के लिए अलग उपनाम चाहते हैं, तो प्रत्येक वेरिएंट को models.providers.huggingface.models के अंतर्गत (या model.primary में) अलग प्रविष्टि के रूप में जोड़ें।
कॉन्फ़िगरेशन मर्ज: कॉन्फ़िगरेशन मर्ज के दौरान models.providers.huggingface.models की मौजूदा प्रविष्टियाँ (उदाहरण के लिए, models.json में) रखी जाती हैं, इसलिए वहाँ सेट किए गए कस्टम name, alias या मॉडल विकल्प पुनः आरंभ होने के बाद भी बने रहते हैं।

एनवायरनमेंट और डेमन सेटअप

यदि Gateway डेमन (launchd/systemd) के रूप में चलता है, तो सुनिश्चित करें कि उस प्रोसेस के लिए HUGGINGFACE_HUB_TOKEN या HF_TOKEN उपलब्ध हो (उदाहरण के लिए, ~/.openclaw/.env में या env.shellEnv के माध्यम से)।

OpenClaw, HUGGINGFACE_HUB_TOKEN और HF_TOKEN दोनों स्वीकार करता है। यदि दोनों सेट हैं, तो HUGGINGFACE_HUB_TOKEN को प्राथमिकता मिलती है।

कॉन्फ़िगरेशन: फ़ॉलबैक के साथ DeepSeek R1

{
  agents: {
    defaults: {
      model: {
        primary: "huggingface/deepseek-ai/DeepSeek-R1",
        fallbacks: ["huggingface/openai/gpt-oss-120b"],
      },
      models: {
        "huggingface/deepseek-ai/DeepSeek-R1": { alias: "DeepSeek R1" },
        "huggingface/openai/gpt-oss-120b": { alias: "GPT-OSS 120B" },
      },
    },
  },
}

कॉन्फ़िगरेशन: सबसे सस्ते और सबसे तेज़ वेरिएंट के साथ DeepSeek

{
  agents: {
    defaults: {
      model: { primary: "huggingface/deepseek-ai/DeepSeek-R1" },
      models: {
        "huggingface/deepseek-ai/DeepSeek-R1": { alias: "DeepSeek R1" },
        "huggingface/deepseek-ai/DeepSeek-R1:cheapest": { alias: "DeepSeek R1 (cheapest)" },
        "huggingface/deepseek-ai/DeepSeek-R1:fastest": { alias: "DeepSeek R1 (fastest)" },
      },
    },
  },
}

कॉन्फ़िगरेशन: उपनामों के साथ DeepSeek + GPT-OSS

{
  agents: {
    defaults: {
      model: {
        primary: "huggingface/deepseek-ai/DeepSeek-V3.1",
        fallbacks: ["huggingface/openai/gpt-oss-120b"],
      },
      models: {
        "huggingface/deepseek-ai/DeepSeek-V3.1": { alias: "DeepSeek V3.1" },
        "huggingface/openai/gpt-oss-120b": { alias: "GPT-OSS 120B" },
      },
    },
  },
}

मॉडल चयन

सभी प्रोवाइडर, मॉडल संदर्भ और फ़ेलओवर व्यवहार का अवलोकन।

मॉडल चयन

मॉडल चुनने और कॉन्फ़िगर करने का तरीका।

Inference Providers दस्तावेज़

आधिकारिक Hugging Face Inference Providers दस्तावेज़।

कॉन्फ़िगरेशन

संपूर्ण कॉन्फ़िगरेशन संदर्भ।

Overview

Concepts and configuration

Providers

Hugging Face (इन्फ़रेंस)

आरंभ करना

गैर-इंटरैक्टिव सेटअप

मॉडल आईडी

उन्नत कॉन्फ़िगरेशन

संबंधित

मॉडल चयन

मॉडल चयन

Inference Providers दस्तावेज़

कॉन्फ़िगरेशन

​आरंभ करना

​गैर-इंटरैक्टिव सेटअप

​मॉडल आईडी

​उन्नत कॉन्फ़िगरेशन

​संबंधित

मॉडल चयन

मॉडल चयन

Inference Providers दस्तावेज़

कॉन्फ़िगरेशन

आरंभ करना

गैर-इंटरैक्टिव सेटअप

मॉडल आईडी

उन्नत कॉन्फ़िगरेशन

संबंधित