Sangam — मॉडेलचा एक panel, एक उत्तर

हे कसे काम करते

Sangam हा एक तीन-टप्प्यांचा ensemble आहे. तुमचे उत्तर एका एकट्या मॉडेलवर पैज लावण्याऐवजी, हे एक panel बोलावते, मग एका बळकट मॉडेलकडून त्यांना जोडवते — जसे एकसंगम नद्यांचे मीलन असते. panel ओपन-वेट आहे, म्हणून प्रत्येक टप्पा पारदर्शक आणि पुनरुत्पादनयोग्य आहे.

🧠

टप्पा 1 · Panel

अनेक मॉडेल समांतरपणे उत्तर देतात

तुमचा प्रॉम्प्ट ओपन-वेट मॉडेलच्या एका प्रकाशित panel मध्ये पसरतो. प्रत्येक स्वतंत्रपणे उत्तर देतो — वेगळी ट्रेनिंग, वेगळे आंधळे-बिंदू — एकाच वेळी. प्रत्येक कॉल तुमच्या स्वतःच्या provider keys (BYOK) वर चालतो — प्रत्येक panel सदस्य ओपन-वेट आहे, म्हणून एकच provider key (जसे Groq) संपूर्ण panel कव्हर करू शकते.

🪢

टप्पा 2 · Synthesizer

एक मॉडेल त्यांना जोडतो

एक बळकट "fuse with" मॉडेल प्रत्येक panel उत्तर वाचतो आणि त्यांना जोडतो — कन्सेन्सस टिकवून ठेवत, विरोधाभास समोर आणत, आणि असे आंधळे-बिंदू भरत जे कोणतेही एकटे मॉडेल पकडू शकले नाही.

✅

टप्पा 3 · उत्तर

एक सर्वोत्तम उत्तर, सामान्य आकारात

तुम्हाला सामान्य chat.completion आकारात एकच उत्तर परत मिळते — कोणताही नवीन response format हाताळण्याची गरज नाही. usage हा panel + synthesizer completions ची बेरीज आहे, सोबतच एक br_sangam पारदर्शकता ब्लॉक.

निर्मितीपासूनच पारदर्शक: panel ओपन-वेट आणि प्रकाशित आहे, म्हणून कोणताही परिणाम पुनरुत्पादित होतो आणि कोणत्या मॉडेलनी त्याला आकार दिला हे तुम्ही ऑडिट करू शकता. गरज असल्यास data_policy: india_onlyने भारत-निवास उपलब्ध आहे. Sangam हा एक प्रीमियम showcase route आहे — साधारणपणे एका मॉडेलच्या 4× टोकन, सोबतच सर्वात मंद panel सदस्याची latency — म्हणून हा कधीही default नसतो; याचा वापर तेव्हा करा जेव्हा एखादे उत्तर एका panel च्या योग्यतेचे असेल.

हे चालवण्याचे दोन मार्ग — आणि तुमचा स्वतःचा

Model id	Panel	निवास	कशासाठी सर्वोत्तम
`bharatrouter/open-sangam` hero	ओपन-वेट panel gpt-oss · Qwen3 · Llama 3.1 — ओपन-वेट (तुमच्या keys वर चालवा)	🇮🇳 हवे असल्यास	ओपन-वेट, पुनरुत्पादनयोग्य, BYOK-तयार — आधी हेच वापरून पहा
`bharatrouter/sangam`	पूर्ण frontier gpt-5 · Gemini · Claude	🌐 ग्लोबल	frontier panel — सर्वोच्च गुणवत्तेची मर्यादा
`sangam: { panel, synth }`	तुमची निवड (2–6 मॉडेल + एक synthesizer)	तुमच्या मॉडेलवर अवलंबून	कस्टम ensembles — तेच फील्ड जे माणसे आणि एजंट पाठवतात

तिघांसाठी तोच OpenAI-सुसंगत कॉल. Sangam playground मध्ये इंटरॅक्टिव्हपणे एक कस्टम panel बनवा, किंवा कोणत्याही request वर sangam ऑब्जेक्ट पाठवा.

तुमच्या keys आणा. प्रत्येक variant BYOK आहे: प्रत्येक panel मॉडेलसाठी तुम्ही एक key आणता. Open-Sangam panel पूर्णपणे ओपन-वेट आणि Groq-routable आहे, म्हणून एकच provider key (जसे Groq) संपूर्ण panel कव्हर करू शकते.

🇮🇳 हवे असल्यास संपूर्ण ensemble भारतात ठेवा

एक प्रमुख पर्याय: data_policy: india_only जोडा आणि प्रत्येक panel + synthesizer कॉल फक्त भारत-निवासी इन्फ्रास्ट्रक्चरवर रूट होतो — रचनेपासूनच DPDP-सुसंगत, end to end. हे एक वेगळे product नाही, फक्त एक flag आहे: तोच bharatrouter/open-sangam कॉल, गरज पडल्यावर भारतात पिन.

Open-Sangam panel

अनेक कन्सेन्सस routers त्यांचा panel गुप्त ठेवतात. आम्ही ठेवत नाही.Open-Sangam roster प्रकाशित आहे, म्हणून कोणीही एखादा परिणाम पुनरुत्पादित करू शकतो आणि कोणत्या मॉडेलनी त्याला आकार दिला हे ऑडिट करू शकतो. तीन ओपन-वेट panelists उत्तर देतात; एक ओपन-वेट synthesizer त्यांना जोडतो. या लूपमधील प्रत्येक मॉडेल ओपन-वेट आहे— सुरुवातीपासून शेवटपर्यंत पारदर्शक आणि पुनरुत्पादनयोग्य. गरज असल्यास data_policy: india_only ने भारत-निवास उपलब्ध आहे.

भूमिका	मॉडेल	च्या माध्यमातून सर्व्ह केले	निवास	वेट
Panelist	`gpt-oss-20b`	Krutrim Cloud	🇮🇳 भारत-निवासी	ओपन-वेट
Panelist	`qwen3-32b`	open-weight (BYOK)	🇮🇳 भारत-निवासी	ओपन-वेट
Panelist	`llama-3.1-8b-instruct`	open-weight (BYOK)	🇮🇳 भारत-निवासी	ओपन-वेट
Synthesizer	`gpt-oss-120b`	Krutrim Cloud	🇮🇳 भारत-निवासी	ओपन-वेट

Synthesizer आहे gpt-oss-120bKrutrim Cloud च्या माध्यमातून — एक मोठे ओपन-वेट मॉडेल जे जोडण्याचे काम करते. roster निश्चित आणि सार्वजनिक असल्यामुळे, तोच प्रॉम्प्ट तोच panel बोलावतो: डिझाइनपासून पुनरुत्पादनयोग्य.

हे काम करताना पहा

उदाहरणादाखल उदाहरणpanel→synthesizer प्रवाह दाखवण्यासाठी प्रातिनिधिक शब्दावली — कोणताही benchmark किंवा मोजलेला परिणाम नाही.

प्रॉम्प्ट

"एका स्टार्टअपला भारतीय-भाषेच्या ग्राहक चॅटवर एक ओपन मॉडेल fine-tune करायचे आहे पण डेटा भारताबाहेर जाऊ देऊ शकत नाही. त्यांनी कोणता मार्ग अवलंबावा, आणि बहुधा ते कोणत्या एका जोखमीकडे दुर्लक्ष करतील?"

panel उत्तर देतो (समांतरपणे):

gpt-oss-20b · Krutrim Cloud

भारतीय GPU क्षमतेवर इन-रीजन fine-tune करा आणि डेटासेट भारत-निवासी स्टोअरमध्ये ठेवा. LoRA वापरा जेणेकरून तुम्ही एक छोटा adapter पाठवता, पूर्ण मॉडेल प्रत नाही. सावध रहा: अनेक "managed" fine-tuning APIs ट्रेनिंगदरम्यान डेटा एखाद्या परदेशी रीजनमध्ये egress करतात — फक्त मार्केटिंग नाही, data-flow वाचा.

qwen3-32b · open-weight (BYOK)

बेस वेट self-host करा आणि तुमच्याच इन्फ्रावर ट्रेन करा जेणेकरून काहीही तुमच्या VPC बाहेर जाणार नाही. चॅट डेटा काळजीपूर्वक क्युरेट करा — भारतीय-भाषा ट्रान्सलिटरेशन आणि code-mixing भोळ्या tokenization चा सत्यानाश करतात. दुर्लक्षित केलेली जोखीम आहे ट्रेनिंग सेटमधील PII: ग्राहक चॅट फोन नंबर आणि पत्त्यांनी भरलेली असते जे मॉडेल नंतर ओकू शकते.

llama-3.1-8b-instruct · open-weight (BYOK)

भारत-निवासी ओपन मॉडेलवर पॅरामीटर-कार्यक्षम fine-tuning (LoRA/QLoRA) व्यावहारिक मार्ग आहे; पूर्ण fine-tunes क्वचितच खर्चाच्या योग्यतेचे असतात. आधी वास्तविक सपोर्ट ट्रान्सक्रिप्टचा एक eval सेट बनवा. चुकणे सोपे: DPDP संमती — मॉडेल ट्रेनिंगसाठी ग्राहक चॅटचा वापर हा एक वेगळा उद्देश आहे ज्यासाठी नवीन संमती आणि रिटेन्शन मर्यादांची गरज असू शकते.

Sangam उत्तर (gpt-oss-120bने संश्लेषित):

एका भारत-निवासी ओपन मॉडेलचा पॅरामीटर-कार्यक्षम fine-tune (LoRA/QLoRA) घ्या, जो पूर्णपणे भारताच्या आत इन्फ्रास्ट्रक्चरवर ट्रेन केलेला असेल — आदर्शपणे तुमच्या स्वतःच्या VPC मध्ये self-hosted जेणेकरून डेटासेट कधीही egress करणार नाही; जर तुम्ही एखादा managed trainer वापरत असाल, तर ट्रेनिंग इन-रीजन चालते हे लेखी स्वरूपात पडताळून पहा. डेटा कामात आधीच गुंतवणूक करा: वास्तविक भारतीय ग्राहक ट्रान्सक्रिप्टचा एक eval सेट, आणि code-mixed आणि ट्रान्सलिटरेटेड टेक्स्ट साठी tokenizer/हाताळणी.

panel तांत्रिक आकारावर सहमत झाला पण त्याने दोन वेगळ्या "बहुधा दुर्लक्षित" केल्या जाणाऱ्या जोखमी अधोरेखित केल्या, आणि दोन्ही महत्त्वाच्या आहेत: (1) PII लीकेज — ग्राहक चॅटमध्ये फोन नंबर आणि पत्ते असतात जे एक fine-tuned मॉडेल लक्षात ठेवू शकते आणि नंतर ओकू शकते, म्हणून ट्रेनिंगआधी redact करा; आणि (2) DPDP संमती — ट्रेनिंगसाठी सपोर्ट चॅटचा पुनर्वापर हा एक नवीन उद्देश आहे ज्यासाठी नवीन संमती आणि एक रिटेन्शन मर्यादेची गरज असू शकते. एकटा निवास प्रोजेक्टला अनुपालक बनवत नाही; redaction आणि एक वैध आधार बनवतात.

हे कोणत्याही एका मॉडेलपेक्षा अधिक का आहे: synthesizer ने सामायिक तांत्रिक उत्तर ठेवले पण panel च्याविभिन्न जोखीम मूल्यांकनांना एक सोडून देण्याऐवजी जोडले — एका एकट्या मॉडेलवर विश्वास ठेवण्याची अपयशाची पद्धत.

फक्त उदाहरणादाखल शब्दावली. वास्तविक प्रति-मॉडेल आउटपुट भिन्न असतात; येथे काहीही मोजलेला स्कोर नाही.

लाइव्ह benchmarks — लवकरच येत आहेत

आम्ही असे नंबर उद्धृत करणार नाही जे आम्ही मोजले नाहीत. Open-Sangam साठी प्रति-ensemblelatency आणि गुणवत्ता येत आहे BharatRouter च्या स्वतंत्रdeclared-vs-tested benchmark harness च्या माध्यमातून — तेच जे आम्ही संपूर्ण catalog मध्ये वापरतो जेणेकरून एक provider काय declareकरतो त्याच्या शेजारी आम्ही प्रत्यक्षात काय मोजतो हे प्रकाशित करू शकू, वास्तविक कॉलवर सरासरी काढून.

ते येईपर्यंत, वरील उदाहरणाला उदाहरणादाखल माना आणि panel roster ला अशा तथ्याच्या रूपात ज्यावर तुम्ही विश्वास ठेवू शकता. जेव्हा मोजलेले आकडे लाइव्ह होतील, ते येथे दिसतील — कॉल करण्याचा model id आहे bharatrouter/open-sangam (/v1/models मध्ये सूचीबद्ध).

Benchmarks आणि कार्यपद्धती →

याचा वापर करा

Sangam फक्त एक model id आहे. कोणत्याही OpenAI-सुसंगत क्लायंटला BharatRouter कडे निर्देशित करा आणिmodel="bharatrouter/open-sangam" सेट करा — कोणतेही SDK नाही, कोणताही नवीन endpoint नाही, कोणतेही विशेष response parsing नाही.

curl

curl https://api.bharatrouter.com/v1/chat/completions \
  -H "Authorization: Bearer br-..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "bharatrouter/open-sangam",
    "messages": [
      {"role": "user", "content": "How should an Indian startup keep fine-tuning data in-country?"}
    ]
  }'

Python — OpenAI SDK

from openai import OpenAI

client = OpenAI(
    base_url="https://api.bharatrouter.com/v1",
    api_key="br-...",
)

resp = client.chat.completions.create(
    model="bharatrouter/open-sangam",
    messages=[
        {"role": "user",
         "content": "How should an Indian startup keep fine-tuning data in-country?"},
    ],
)

print(resp.choices[0].message.content)
# panel + synthesizer transparency:
print(resp.br_sangam)

पारदर्शकता ब्लॉक — प्रत्येक response मध्ये एकbr_sangam फील्ड असते जे नेमके दाखवते की कोणी उत्तर दिले:

"br_sangam": {
  "panel": [
    {"model": "gpt-oss-20b",          "provider": "krutrim",      "ok": true, "ms": 1840},
    {"model": "qwen3-32b",  "provider": "groq", "ok": true, "ms": 1120},
    {"model": "llama-3.1-8b-instruct",           "provider": "groq",      "ok": true, "ms": 2310}
  ],
  "synthesizer": {"model": "gpt-oss-120b", "provider": "krutrim", "ms": 2640}
}

एजंटही — तीच सतह.Open-Sangam हे एक प्रथम-श्रेणीचे मॉडेल आहे: ते GET /v1/models मध्ये दिसते आणि MCPchat टूलच्या माध्यमातून अगदी इतर कोणत्याही मॉडेलसारखेच कॉल करता येते. जे काही एक माणूस कोडमध्ये करू शकतो, एक एजंट MCP वर करू शकतो — माणूस + एजंट समता, कोणताही विशेष मार्ग नाही.

प्राइसिंग: Sangam ची किंमत panel + synthesizer completions च्या बेरजेच्या रूपात ठरते — आणि Open-Sangam चा panel पूर्णपणे ओपन-वेट असल्यामुळे, तुम्ही ते तुमच्या provider keys (BYOK) वर चालवता, म्हणून panel खर्च हा तुमचा स्वतःचा ओपन-वेट provider दर आहे. हे जोपर्यंत प्लॅटफॉर्म BYOK-beta मध्ये आहे तोपर्यंत मोफत आहे. एका एकट्या मॉडेलच्या साधारणपणे 4× टोकन आणि सर्वात मंद panel सदस्याच्या latency ची अपेक्षा करा — याचा वापर अशा उत्तरांसाठी करा जी एका panel च्या योग्यतेची असतील, default route म्हणून नाही.