BYOK — अपने खुद के key लाएँ

BYOK आपको BharatRouter के माध्यम से अपने स्वयं के provider खातों का उपयोग करने देता है: एक API, एक SDK, हमारी रूटिंग और फेलओवर — आपका key और आपकी बिलिंग अपस्ट्रीम। यह हर उस provider को अनलॉक करता है जिसके लिए आप एक key लाते हैं (Krutrim Cloud, Sarvam, Mistral, DeepSeek, OpenAI, Groq, Together, Fireworks, Cerebras, xAI और अधिक — कुल 50 providers), और हर request आपकी अपनी बातचीत की गई दरों पर चलाता है।

क्या आप एक मॉडल पर रूट करना चाहते हैं जो एक डिप्लॉयमेंट पर चल रहा है जिसे आपहोस्ट करते हैं, न कि उस provider पर जिसे हम सपोर्ट करते हैं? वह हैBYOE — अपना खुद का एंडपॉइंट लाएँ; उपयोग करने के लिएBYOE बनाम BYOK देखें।

बीटा के दौरान BYOK अनुरोध निःशुल्क हैं — BharatRouter अतिरिक्त शुल्क नहीं लेता है; आपका provider आपको सीधे बिल करता है।

BYOK के दो तरीके

1. प्रति-अनुरोध: upstream_key

एक ही अनुरोध पर अपनी provider key पास करें। इसका उपयोग इन-फ़्लाइट किया जाता है, कभी संग्रहीत नहीं किया जाता है, कभी लॉग नहीं किया जाता है। इसे provider के साथ जोड़ें ताकि यह तय हो सके कि यह कहाँ जाता है:

curl https://api.bharatrouter.com/v1/chat/completions \
  -H "Authorization: Bearer br-..." -H "Content-Type: application/json" \
  -d '{
    "model": "gpt-oss-20b",
    "provider": "groq",
    "upstream_key": "YOUR_GROQ_KEY",
    "messages": [{"role": "user", "content": "namaste"}]
  }'

2. सहेजे गए org keys (अनुशंसित)

एक बार एक key सहेजें — डैशबोर्ड के BYOK टैब पर याPUT /me/byok/:provider (org मालिक) के माध्यम से — और आपके org से प्रत्येक अनुरोध इसे ऐपलिकेशन कोड में कभी भी key के बिना उपयोग कर सकता है:

PUT /me/byok/krutrim
{ "key": "YOUR_KRUTRIM_CLOUD_KEY", "label": "prod", "always_use": false }

→ { "provider": "krutrim", "mask": "krtm-…a9f2", "always_use": false,
    "verified": true, "models_discovered": 14 }

सहेजते समय key को provider के विरुद्ध लाइव सत्यापित किया जाता है और आराम पर एन्क्रिप्ट किया जाता है (AES-256-GCM); प्लेनटेक्स्ट कभी वापस नहीं किया जाता है — केवल एक मास्क। POST /me/byok/:provider/testके साथ किसी भी समय एक सहेजे गए key की दोबारा जांच करें, इसे DELETE /me/byok/:provider के साथ हटा दें।

मॉडल डिस्कवरी

जब आप एक key सहेजते हैं, तो गेटवे उस provider से आपके key के साथ उसकी मॉडल सूची मांगता है और जो कुछ भी उसे मिलता है उसे routable के रूप मेंprovider/model-id बनाता है:

GET /me/byok/mistral/models
→ { "provider": "mistral", "models": ["mistral/mistral-large-latest", "mistral/codestral-latest", ...] }

# then simply:
client.chat.completions.create(model="mistral/mistral-large-latest", messages=[...])

डिस्कवरी key को सहेजने और परीक्षण करने पर ताज़ा होती है; एक अस्थिर provider सूची पहले खोजे गए मॉडल को नहीं मिटाती है।

Key प्राथमिकता

BYOK आवश्यक है: हर मार्ग आपकी अपनी provider key पर चलता है, और fallback के लिए कोई platform key नहीं है। यदि आपकी key विफल होती है, तो अनुरोध विफल हो जाता है — एक key त्रुटि के रूप में सामने आता है, ताकि आपको पता चले कि कौन सी key टूटी।

1. एक प्रति-अनुरोध upstream_key हमेशा जीतता है — केवल उस कॉल के लिए उपयोग होती है, कभी संग्रहीत नहीं।
2. अन्यथा, चयनित provider के लिए org का सहेजा गया key उपयोग किया जाता है।
3. यदि provider के लिए कोई key उपलब्ध नहीं है, तो अनुरोध विफल हो जाता है — कोई platform fallback नहीं।

BYOK key विफलताएँ key को जिम्मेदार ठहराई जाती हैं, न कि provider मार्ग को — आपकी समाप्त हो चुकी key साझा सर्किट ब्रेकर को ट्रिप नहीं करेगी।

कौन से providers BYOK स्वीकार करते हैं?

GET /me/byok उन providers की लाइव सूची लौटाता है जिनके लिए आप एक key ला सकते हैं। नीचे का हर provider BYOK है — अपनी key सेव करें और उसके models routable हो जाते हैं।

🇮🇳 Krutrim Cloud🇮🇳 Sarvam AIOpenAIOpenRouterGroqMistral AIDeepSeekTogether AIFireworks AICerebrasxAIMoonshot AIDeepInfraNovita AISambaNovaNebius AI StudioHyperbolicNVIDIA NIMPerplexityAI21 LabsUpstageMiniMaxAlibaba Qwen (Intl)Z.ai (Zhipu)Featherlesskluster.aiLambdaChutesCohereGoogle GeminiAI/ML APIFriendliAIInception (Mercury)Jina AIOVHcloud AI EndpointsVenice AISiliconFlowBasetenNscaleMeta Llama APIStepFunGMI CloudScalewayDigitalOcean GradientVolcano Engine (ByteDance)Baidu ERNIEParasailW&B InferenceElevenLabsGitHub Models

प्रति provider पूर्ण विवरण — निवास, लाइव कैटलॉग मार्ग —providers पेज पर।

BYOK त्रुटियाँ