दस्तऐवज

LiteLLM वरून माइग्रेट करा

गेटवेएक-ओळ swap

self-hosted proxy काढा, किंवा तुमच्या LiteLLM config मध्ये BharatRouter ला एक मॉडेल म्हणून जोडा.

बदल

आधी — LiteLLM

# self-hosted LiteLLM proxy
from openai import OpenAI

client = OpenAI(
    base_url="http://localhost:4000",
    api_key="sk-litellm-...",
)

नंतर — BharatRouter

# managed — no proxy to run
from openai import OpenAI

client = OpenAI(
    base_url="https://api.bharatrouter.com/v1",
    api_key="br-...",
)

LiteLLM	BharatRouter
`config.yaml` मध्ये `model_list`	hosted catalog + तुमच्या providers साठी BYOK
`router_settings` / `fallbacks`	सेव्ह केलेल्या Collections + circuit-breaker failover
`context_window_fallbacks`	failover chain पायरी (config adapter roadmap वर)
self-managed Postgres + Redis	पूर्णपणे managed — काहीही host करायचे नाही

कोणताही proxy चालवणे, patch किंवा scale करणे नाही; routing, budgets आणि failover managed.
India residency + INR billing, स्वतः न बनवता.

LiteLLM ठेवायचे आहे? BharatRouter ला एक openai/… मॉडेल म्हणून br-… key आणि gateway वर सेट केलेल्या base_url सह जोडा.
LiteLLM चे YAML fallbacks अजून import होत नाहीत — त्यांना Collection म्हणून पुन्हा तयार करा.

माइग्रेशनमध्ये अडकलात? [email protected] वर लिहा,FAQ पाहा, किंवा BYOK ने तुमचे accounts आणि दर ठेवा।