दस्तऐवज

कधीही error परत करू नका

circuit-breaker failover सोबत आपोआप Krutrim → Sarvam → global मॉडेलपर्यंत खाली घसरा.

Collections + circuit breakersविश्वासार्हतामध्यम10 min

कोणताही एक provider नक्कीच पाच वाईट मिनिटे पाहील. एक Collection ही {model, provider} पायऱ्यांची क्रमबद्ध, versioned chain आहे; gateway ती वरून-खाली चालवून पहिली healthy पायरी serve करते, आणि अपयशी पायऱ्यांवर circuit breaker पाडते.

तुम्ही वापराल: जतन केलेल्या fallback chains (Collections) + आपोआप circuit-breaker failover. संदर्भ: Collections.

chain परिभाषित करा

dashboard मध्ये (किंवा API वरून) एक Collection तयार करा, मग ती slug ने बोलावा. खालची chain India-resident routes ना प्राधान्य देते आणि global मॉडेल फक्त शेवटचा आधार म्हणून स्पर्श करते:

क्रम	मॉडेल	Provider	का
1	`gemma-4-e4b-it`	krutrim	सर्वात स्वस्त India route, आधी वापरून पाहिला
2	`qwen3-32b`	groq	Open-weight fallback (BYOK)
3	`gpt-5-mini`	openai	Global सुरक्षा-जाल

from openai import OpenAI

client = OpenAI(base_url="https://api.bharatrouter.com/v1", api_key="br-...")

r = client.chat.completions.create(
    model="@my-org/resilient-chat",   # your Collection slug
    messages=[{"role": "user", "content": "namaste"}],
)
# x-br-provider tells you which step actually served the request

failover कसे काम करते

जी पायरी error किंवा timeout देते ती वगळली जाते; पुढची पायरी त्याच request मध्ये वापरून पाहिली जाते — तुमचा client एक response पाहतो, error नव्हे.
वारंवार अपयश त्या route चा circuit breaker उघडतो, त्यामुळे ठीक होईपर्यंत तो पटकन वगळला जातो, प्रत्येक कॉलमध्ये latency न जोडता.
Collections versioned आणि shareable आहेत — एखादे fork करा, क्रम बदला, पुन्हा publish करा.

अधिक मजबूत करा: तुमचे endpoint ₹0 शेवटची पायरी म्हणून जोडा (BYOE), आणि chain ला canary करा जेणेकरून वापरकर्त्यांआधी तुम्हाला अलर्ट मिळेल.

आणखी रेसिपी कुकबुक मध्ये पाहा, किंवा संपूर्णAPI reference पाहा.