⚡ नया — Kimi K3 अब लाइव: अपनी Moonshot key जोड़ें →
दस्तावेज़

LiteLLM से माइग्रेट करें

← सभी माइग्रेशन गाइड

गेटवेएक-लाइन swap

self-hosted proxy हटाएँ, या अपनी LiteLLM config में BharatRouter को एक मॉडल के रूप में जोड़ें।

बदलाव

पहले — LiteLLM

# self-hosted LiteLLM proxy
from openai import OpenAI

client = OpenAI(
    base_url="http://localhost:4000",
    api_key="sk-litellm-...",
)

बाद में — BharatRouter

# managed — no proxy to run
from openai import OpenAI

client = OpenAI(
    base_url="https://api.bharatrouter.com/v1",
    api_key="br-...",
)

क्या किस पर मैप होता है

LiteLLMBharatRouter
config.yaml में model_listhosted catalog + अपने providers के लिए BYOK
router_settings / fallbacksसहेजी गई Collections + circuit-breaker failover
context_window_fallbacksfailover chain कदम (config adapter roadmap पर)
self-managed Postgres + Redisपूरी तरह managed — कुछ host नहीं करना

आपको क्या मिलता है

  • कोई proxy चलाना, patch या scale नहीं करना; routing, budgets और failover managed।
  • India residency + INR billing, ख़ुद बनाए बिना।

किन बातों का ध्यान रखें

  • LiteLLM रखना चाहते हैं? BharatRouter को एक openai/… मॉडल के रूप में br-… key और gateway पर सेट base_url के साथ जोड़ें।
  • LiteLLM के YAML fallbacks अभी import नहीं होते — उन्हें Collection के रूप में फिर बनाएँ।

माइग्रेशन में अटक गए? [email protected] पर लिखें,FAQ देखें, या BYOK से अपने accounts और दरें रखें।