⚡ नवीन — Kimi K3 आता लाइव: तुमची Moonshot की जोडा →

Sangam चे benchmarking — मोजले गेले, विकले नाही.

कन्सेन्सस routers ला हाइप करणे सोपे आणि निष्पक्षपणे तुलना करणे कठीण आहे. इथे सांगितले आहे की आम्ही Sangam ला OpenRouter Fusion च्या तुलनेत कसे ठेवतो — एका खऱ्या, पैसे-खर्च करणाऱ्या benchmark harness सह, एका ब्लाइंड LLM जज सह, आणि एका खर्च मॉडेलसह ज्याच्या सर्व गृहीतके टेबलावर आहेत. आम्ही मोजला नसलेला कोणताही नंबर उद्धृत करत नाही. जिथे आमच्याकडे फक्त एक अंदाज आहे, तिथे आम्ही तसे सांगतो.

स्वतः वापरून पाहाकार्यपद्धती पाहा

सुरुवातीलाच प्रामाणिक: open-sangam एक ओपन-वेट, BYOK-ready panel आहे — पारदर्शक आणि पुनरुत्पादनीय, तुमच्या स्वतःच्या provider keys वर चालते — आणि डिझाइनने raw frontier गुणवत्तेवर Fusion च्या खाली बसते; sangam एक समकक्ष frontier panel वापरते आणि Fusion च्या जवळपास बरोबरीने उतरले पाहिजे. आम्ही सीमेवर Fusion शी लढत नाही — आम्ही अशा अक्षांवर जिंकतो ज्यांचा तो पाठलाग करू शकत नाही: खुलेपणा, पुनरुत्पादनीयता, खर्च, आणि BYOK.

तीन इंजिने

प्रत्येक रन तोच प्रॉम्प्ट तीन कन्सेन्सस इंजिनांच्या माध्यमातून पाठवतो. दोन आमची आहेत; एक तो router आहे ज्याच्या तुलनेत आम्ही मोजत आहोत. खर्च स्तंभ एक rate-card अंदाज आहे (गृहीतके खाली) — harness हा अचूक बिल केलेल्या खर्चाने बदलून टाकते.

इंजिनPanelनिवासखुलेपणाअंदाजे ₹/req
bharatrouter/open-sangamheroopen-weight · BYOK-ready
gpt-oss · Qwen3 · Llama 3.1 — ओपन-वेट, तुमच्या स्वतःच्या keys वर (BYOK)
🇮🇳 India available✓ open-weightतुमचा स्वतःचा ओपन-वेट दर
bharatrouter/sangamfull frontier
gpt-5 · gemini-2.5-flash · claude-haiku-4.5 → gpt-5-mini
🌐 globalclosed frontierbetween — frontier panel, INR catalog rates
openrouter/fusionfull frontier
Opus · GPT · Gemini + a fuser
🌐 globalclosed frontier≈ ₹1.5–2.0 / req

bharatrouter/sangam समकक्ष Fusion प्रतिस्पर्धी आहे: एक समान-श्रेणीचे frontier panel, पण आमच्या INR catalog दरांवर बिल केलेले — तुमच्या स्वतःच्या keys वर (BYOK).bharatrouter/open-sangam ओपन-वेट, BYOK-ready route आहे — पारदर्शक आणि पुनरुत्पादनीय, data_policy द्वारे India residency उपलब्ध — आधी हे वापरून पाहा.

प्रत्येक इंजिन कुठे जिंकते

Raw benchmark गुणवत्ता एक अक्ष आहे, एकमेव नाही. एका कठीण reasoning leaderboard वर, Fusion चे frontier panel हरवणे कठीण आहे — म्हणून आम्ही स्पष्टपणे तसे सांगतो. पण खुलेपणा, पुनरुत्पादनीयता, खर्च, BYOK, आणि VPC-तैनाती-योग्यता असे अक्ष आहेत ज्यांचा एक closed frontier router पाठलाग करू शकत नाही. तुमच्या मर्यादा जे इंजिन मागतात ते निवडा.

 open-sangamsangamFusion
भारत डेटा-निवास उपलब्ध (data_policy द्वारे)✓ होयनाही — frontier panelनाही — परदेशात-तैनात providers
ओपन-वेट panel (self-hostable)✓ होयनाहीनाही
BYOK — तुमच्या keys आणा✓ होय✓ होयनाही
लूपमध्ये परदेशात-तैनात frontier मॉडेल✓ एकही नाहीहोय — डिझाइननेहोय — हेच त्याचे panel आहे
पुनरुत्पादनीय (panel रचना प्रकाशित)✓ प्रकाशित✓ प्रकाशितउघड केले नाही
तुमच्या स्वतःच्या VPC च्या आत चालते (engine-mode)roadmap वर — ओपन वेट हे शक्य करतातनाही — closed panelनाही — closed वेट
अंदाजे खर्च / requestतुमचा स्वतःचा ओपन-वेट दर (BYOK)मध्ये — INR catalog दर≈ ₹1.5–2.0
Raw frontier-गुणवत्ता सीमाकमी — ओपन-वेट panel, डिझाइनने≈ Fusion — समान-श्रेणी panelसर्वोच्च — frontier panel

शेवटच्या दोन ओळी बाकीच्यांसोबत मिळून वाचा. जर प्रश्न असेल "सर्वोत्तम शक्य उत्तर, खर्च आणि निवास कोणतीही मर्यादा नाही," तर Fusion एक योग्य पर्याय आहे — आणि आमचे स्वतःचे sangam देखील, INR दरांवर. जर तो असेल "अशा ओपन वेटवर सर्वोत्तम उत्तर जे मी ऑडिट करू शकेन, पुनरुत्पादित करू शकेन आणि अखेरीस स्वतः चालवू शकेन — तुमच्या स्वतःच्या provider keys वर (BYOK), आणि जेव्हा गरज असेल तेव्हा India residency सह," तर ते open-sangam आहे.

खर्च मॉडेल

Rate-card अंदाजकोणताही मोजलेला निकाल नाही. सांगितलेल्या गृहीतकांच्या अंतर्गत प्रकाशित प्रति-टोकन दरांवरून गणना — harness इथल्या प्रत्येक आकड्याला OpenRouter च्या अचूक बिल केलेल्या खर्चाने बदलून टाकते.

समान workload च्या अंतर्गत, open-sangam Fusion च्या तुलनेत प्रति request सुमारेएक क्रम-परिमाण स्वस्त उतरते.

  • open-sangam — तुमचा स्वतःचा ओपन-वेट दर (BYOK) — panel पूर्णपणे ओपन-वेट आहे, म्हणून तुम्ही ते तुमच्या provider keys (उदा. Groq) वर चालवता आणि तुमच्या provider चा ओपन-वेट प्रति-टोकन दर देता, जो frontier दरांपेक्षा बराच कमी आहे.
  • Fusion ≈ ₹1.5–2.0 / request — frontier-provider दरांवर frontier completions ची बेरीज, ~₹86/$ वर रूपांतरित.
  • bharatrouter/sangam मध्ये बसते — Fusion सारखे एक frontier panel, पण raw frontier-provider दरांऐवजी आमच्या INR catalog दरांवर बिल केलेले.

गृहीतके: प्रति panel सदस्य ≈400 input + ≈400 output टोकन; USD→INR ~₹86/$ वर; लेखनाच्या वेळी प्रकाशित प्रति-टोकन दर. टोकन संख्या, मॉडेल मिश्रण, आणि FX आकडा बदलून टाकतात — हे परिमाण-क्रमाचे आहेत, कोणतेही कोटेशन नाही.

जेव्हा तुम्ही harness चालवता, तेव्हा खर्च स्तंभ अंदाज राहणे थांबवतात: हे प्रत्येक कॉलसाठी OpenRouter ने रिपोर्ट केलेला वास्तविक बिल केलेला खर्च नोंदवते, ज्यामुळे तुम्ही पाहता की या इंजिनांनीतुमच्या प्रॉम्प्टवर प्रत्यक्षात काय शुल्क आकारले.

कार्यपद्धती — harness

benchmark ही कोणतीही स्लाइड नाही; हा repo मधील चालण्यायोग्य कोड आहे:bench/sangam-vs-fusion.mjs. हे तोच प्रॉम्प्ट सेट तिन्ही इंजिनांच्या माध्यमातून चालवते, एका ब्लाइंड LLM जज कडून सर्वोत्तम उत्तर निवडवते, आणि latency, टोकन, आणि मोजलेला खर्च नोंदवते. हे कुंजींशिवाय चालण्यास नकार देते — कारण हे वास्तविक provider कॉलवर वास्तविक पैसा खर्च करते, यात कोणताही बनावट-डेटा मोड नाही.

📋
सामायिक प्रॉम्प्ट सेट

तोच प्रॉम्प्ट, प्रत्येक इंजिन

एक निश्चित सेट जो reasoning, भारत-कर, मराठी, कोड, आणि संक्षेपणात पसरलेला आहे — ज्यामुळे प्रत्येक इंजिन एका समान कार्याचे उत्तर देते, कोणतीही क्युरेट केलेली home-field निवड नाही.

🙈
ब्लाइंड best-of-3 जज

जज पाहू शकत नाही कोण कोण आहे

एक LLM जज तिन्ही उत्तरे यादृच्छिक, अनामिक क्रमाने वाचतो आणि सर्वोत्तम निवडतो. त्याला कधीही कळत नाही की कोणत्या इंजिनने कोणते उत्तर बनवले — कोणताही house पूर्वग्रह नाही.

🔁
स्थिरतेसाठी ROUNDS

पुन्हा करा, एका शॉटवर विश्वास ठेवू नका

प्रत्येक प्रॉम्प्ट अनेक ROUNDS वर चालतो ज्यामुळे एक एकटा भाग्यवान किंवा दुर्दैवी जनरेशन निकाल ठरवत नाही. एक जज कॉल कधीही फैसला नसते — निकाल एकत्रित केले जातात.

📊
मोजले गेले, नोंदवले गेले

Latency · टोकन · वास्तविक खर्च

प्रत्येक कॉलसाठी हे wall-clock latency, टोकन usage, आणि तो खर्च लॉग करते जो provider ने प्रत्यक्षात बिल केला — ते नंबर जे या पेजच्या अंदाजांची जागा घेतात.

स्वतः हे चालवा — तुमच्या स्वतःच्या कुंज्या द्या (हे वास्तविक पैसा खर्च करेल):

BR_KEY=… OPENROUTER_API_KEY=… node bench/sangam-vs-fusion.mjs

एक जज मॉडेल अंतिम शब्द नाही — एका एकट्या जजच्या स्वतःच्या प्राधान्य असतात. harness ला नियंत्रित परिस्थितीत तुलनीय नंबर मिळवण्याची एक पद्धत म्हणून समजा, आणि त्याच्या आउटपुटला प्रॉम्प्ट आणि राउंडच्या पलीकडे एक वितरण म्हणून वाचा, एका एकट्या स्कोअरच्या रूपात नाही.

मोजलेले निकाल — पहिला रन

harness च्या माध्यमातून पहिला पास — 6 प्रॉम्प्ट (reasoning, India-tax, मराठी, code, summarization), 1 राउंड, ब्लाइंड best-of-3 जज (gpt-5). एक लहान, दिशादर्शक sample, leaderboard नाही — पण खरे नंबर, काहीही बनवलेले नाही.

इंजिनमध्य latencyखर्च / requestब्लाइंड गुणवत्ता
bharatrouter/open-sangam~17 sतुमचा स्वतःचा ओपन-वेट दर (BYOK — तुमच्या provider चा ओपन-वेट प्रति-टोकन दर)tie 6/6
bharatrouter/sangam~22 s≈ ₹8–13 (अंदाज — frontier panel, फुकट नाही)tie 6/6
OpenRouter Fusion~55 s≈ ₹13 (मोजलेले — $0.89 / 6 calls)tie 6/6

तीन प्रामाणिक निष्कर्ष: open-sangam सर्वात वेगवान राहिले (Fusion पेक्षा ~3× वेगवान),तुमच्या स्वतःच्या ओपन-वेट दरावर चालले — त्याचे panel पूर्णपणे open-weight आहे, म्हणून तुम्ही ते तुमच्या provider keys (BYOK) वर चालवता आणि तुमच्या provider चा ओपन-वेट दर देता, जो Fusion च्या ~₹13/request पेक्षा बराच कमी आहे — आणि जजने प्रत्येक प्रॉम्प्टला tie दिले — या सामान्य प्रश्नांवर open-weight कन्सेन्सस frontier panel समोर टिकून राहिले. sangam frontier-panel रूट आहे, म्हणून ते फुकट नाही — त्याचा खर्च Fusion च्या बरोबरीचा (~₹13) आहे, फक्त आमच्या INR catalog दरांवर बिल होतो.

प्रामाणिक इशारे: एक राउंड, सहा प्रॉम्प्ट, एकच जज — ties काही प्रमाणात जजची सावधगिरी दर्शवू शकतात, आणि कठीण reasoning वर फरक बहुधा वाढेल. latency max_tokens 700 सह wall-clock आहे. खर्चाबद्दल: या run मध्ये फक्त Fusion (OpenRouter-बिल्ड) थेट मोजले गेले; open-sangam तुमच्या स्वतःच्या BYOK keys वर चालते, म्हणून त्याचा खर्च तुमच्या provider चा ओपन-वेट दर आहे, आणिsangam चा आकडा rate-card अंदाज आहे (BR responses मध्ये cost field येत नाही), frontier-class आणि स्पष्टपणे open-sangam च्या ओपन-वेट दरासारखा नाही. मोठे axes — residency, openness, पुनरुत्पाद्यता — वर श्रेणीगत जिंकल्या आहेत. स्वतः चालवा: node bench/sangam-vs-fusion.mjs.

स्वतः वापरून पाहाSangam कसे काम करते