मुख्य मजकुराकडे जा
मुख्यमंत्रीमुख्यमंत्री
व्यवसायदिल्ली

टोकनमागे पैसे द्या... ई2ईची 'ब्लेझ' सेवा, भारतातच एआय इन्फरन्स

ई2ई नेटवर्क्सने मंगळवारी 'ब्लेझ' ही पे-पर-टोकन इन्फरन्स सेवा सुरू केली. खुल्या एआय मॉडेल्ससाठी ही सेवा एनव्हिडिया जीपीयूवर चालते. भारतात होस्ट केलेली एआय फॅक्टरी क्षमता 14.6 मेगावॉटपर्यंत वाढवली जात आहे.

· · १ मिनिटाचे वाचन

नवी दिल्ली : भारतीय कंपन्यांना एआय मॉडेल्स स्वस्तात आणि वेगाने चालवता यावी यासाठी ई2ई नेटवर्क्सने 'ब्लेझ' ही सेवा सुरू केली आहे. सेवेचे वैशिष्ट्य म्हणजे ग्राहकांना वापरलेल्या टोकन्सपुरतेच बिल द्यावे लागते.

कंपनीने मंगळवारी ही घोषणा केली. खुल्या एआय मॉडेल्ससाठीची ही इन्फरन्स सेवा एनव्हिडियाच्या जीपीयू आधारित पायाभूत सुविधेवर आणि डीएसएक्स ओएस घटकांवर चालते. विकसकांना एकाच ओपनएआय-सुसंगत एंडपॉइंटवरून सेवा वापरता येते.

इन्फरन्स म्हणजे प्रशिक्षित मॉडेल एखाद्या प्रश्नाला उत्तर देताना करत असलेली गणना. आतापर्यंत भारतीय स्टार्टअप्सना ही गणना परदेशातील सर्व्हरवर करावी लागत होती. त्यामुळे खर्च आणि प्रतिसादाचा वेळ या दोन्हींवर मर्यादा येत होत्या.

कंपनीच्या म्हणण्यानुसार ब्लेझ भारतात होस्ट केलेल्या एआय फॅक्टरी क्षमतेवर चालते. ही क्षमता उत्पादन-स्तरीय इन्फरन्ससाठी 14.6 मेगावॉटपर्यंत वाढवली जात आहे.

भारतीय एआय कंपन्यांचा ओघ आता प्रायोगिक टप्प्यावरून प्रत्यक्ष उत्पादनाकडे सरकत आहे. एआय एजंट्समुळे टोकनचा वापर वेगाने वाढत असल्याने इन्फरन्सचा खर्च आणि विलंब हे उत्पादन टिकवण्याच्या दृष्टीने निर्णायक ठरत आहेत.

सार्वभौम संगणक क्षमतेचाही मुद्दा यात जोडला गेला आहे. कंपनी आपली सेवा देशातील पायाभूत सुविधांवर असल्याचे सांगते, ज्यामुळे डेटा देशातच राहतो.

ब्लेझची किंमत किती आहे, कोणती मॉडेल्स उपलब्ध आहेत आणि सेवेचा प्रतिसाद वेळ किती आहे, याचा तपशील कंपनीने जाहीर केलेल्या माहितीत नाही.

भारतात एआयसाठी जीपीयू क्षमता उभारण्याची स्पर्धा सध्या जोरात आहे. खुल्या मॉडेल्सवर चालणाऱ्या स्वस्त इन्फरन्स सेवा या स्पर्धेत नवीन आघाडी उघडत आहेत.

सेवा कोणत्या क्षेत्रांसाठी उपयुक्त ठरेल, याबाबत कंपनीने विशेष तपशील दिलेला नाही. इन्फरन्सचा खर्च कमी झाल्यास लहान संघांनाही स्वतःची एआय उत्पादने बाजारात आणणे सोपे होते. मोठ्या कंपन्यांसाठी मात्र विलंब आणि विश्वासार्हता हे अधिक निर्णायक ठरतात. सेवेची उपलब्धता कधीपासून सुरू होईल, हेही घोषणेत स्पष्ट केलेले नाही. या बाजारात अनेक कंपन्या आधीच उतरल्या आहेत.