नई दिल्ली: भारतीय कंपनियों को AI मॉडल सस्ते में और तेजी से चलाने का रास्ता देने के लिए E2E नेटवर्क्स ने 'ब्लेज़' सेवा शुरू की है। इसकी खास बात यह है कि ग्राहक को सिर्फ इस्तेमाल किए गए टोकन का पैसा देना होता है।
कंपनी ने मंगलवार को यह ऐलान किया। ओपन AI मॉडल्स के लिए यह इन्फरेंस सेवा Nvidia की GPU आधारित सुविधाओं और DSX OS कल-पुर्जों पर चलती है। डेवलपर्स एक ही OpenAI-संगत एंडपॉइंट से सेवा इस्तेमाल कर सकते हैं।
इन्फरेंस यानी प्रशिक्षित मॉडल जब किसी सवाल का जवाब देता है तब जो गणना करता है। अब तक भारतीय स्टार्टअप्स को यह गणना विदेशी सर्वर पर करानी पड़ती थी, जिससे खर्च और जवाब देने में लगने वाला वक्त दोनों सीमित हो जाते थे।
कंपनी के मुताबिक ब्लेज़ भारत में होस्ट की गई AI फैक्टरी क्षमता पर चलती है। यह क्षमता प्रोडक्शन-लेवल इन्फरेंस के लिए 14.6 मेगावॉट तक बढ़ाई जा रही है।
भारतीय AI कंपनियां अब पायलट से आगे बढ़कर असली उत्पादन की ओर जा रही हैं। AI एजेंट्स के चलते टोकन की खपत तेजी से बढ़ रही है, इसलिए इन्फरेंस की लागत और देरी उत्पाद टिकाने के लिए अहम हो गए हैं।
इसमें संप्रभु कंप्यूट क्षमता का सवाल भी जुड़ा है। कंपनी कहती है कि उसकी सेवा देश की अपनी सुविधाओं पर है, जिससे डेटा देश में ही रहता है।
ब्लेज़ की कीमत क्या है, कौन से मॉडल उपलब्ध हैं और जवाब देने में कितना वक्त लगता है, इसका ब्योरा कंपनी की जारी जानकारी में नहीं है।
देश में AI के लिए GPU क्षमता खड़ी करने की होड़ तेज है। ओपन मॉडल्स पर चलने वाली सस्ती इन्फरेंस सेवाएं इस होड़ में नया मोर्चा खोल रही हैं।