W&B Inference

BharatRouter के ज़रिए W&B Inference का उपयोग

W&B Inference आपकी अपनी key (BYOK) से route होता है — इसे unlock करने के लिएAccount Settings में अपनी key सेव करना ज़रूरी है, और requests आपके अपने account व आपकी negotiated rates पर चलेंगी। Key कोW&B Inference से live verify किया जाता है, rest पर AES-256-GCM से encrypt होती है, केवल in-flight उपयोग होती है, और दोबारा कभी नहीं दिखाई जाती।

Key सेव करने पर model discovery भी चलती है: BharatRouter W&B Inference से पूछता है कि आपकी key क्या serve कर सकती है और उन सभी models कोwandb/<model> के रूप में routable बना देता है — public catalog से परे भी, केवल आपके organisation को दिखाई देते हैं। Beta के दौरान BYOK requests निःशुल्क हैं।

W&B Inference पर route होने वाले catalog models

Gateway से live — public catalog में W&B Inference route वाले models। आपके खुद के discovered wandb/<model> routes आपकेaccount में दिखेंगे।