कॉग्निशन का 4.8 गुना बेंचमार्क: थ्रूपुट का सबूत, सस्ते एजेंट काम का नहीं

कोरवेव का पहला वेरा रूबिन ग्राहक 4.8 गुना की थ्रूपुट (throughput) दिखाने वाला बेंचमार्क (benchmark) लेकर आया है, लेकिन लागत का कोई आंकड़ा नहीं दिया। इसी बीच जुलाई से कोरवेव ने GPU की कीमतें 35% बढ़ा दी हैं। CRWV के शेयरधारकों को जिस आंकड़े की ज़रूरत है — पूरी हुई हर डेविन सेशन की लागत — वह रिलीज़ में कहीं मौजूद नहीं है।

मूल लेख पढ़ें

Vincent JiangVincent Jiang · 3 min read
Share
एनवीडिया DGX GB200 रैक की पूरी ऊंचाई में ली गई तस्वीर — पिछली पीढ़ी की NVL72 सिस्टम श्रेणी, जिसे कॉग्निशन के वेरा रूबिन बेंचमार्क ने बेसलाइन बनाया था
1 / 6Slide 1 of 6
एनवीडिया का DGX GB200 रैक, पिछली पीढ़ी का NVL72 सिस्टम — इसी की थ्रूपुट कॉग्निशन के वेरा रूबिन बेंचमार्क में 1.0 गुना की बेसलाइन (baseline) है। कोरवेव पर डेविन चलाने वाले नए वेरा रूबिन NVL72 रैक अब तक सार्वजनिक रूप से नहीं दिखाए गए हैं।

कॉग्निशन की आदत है — हर मुकाम का ऐलान आंकड़ों के साथ। 8 सितंबर का ऐलान सीरीज़ ई फंडिंग राउंड था — 48 अरब डॉलर की वैल्यूएशन पर 2 अरब डॉलर से ज़्यादा जुटाया गया। कंपनी के मुताबिक उसकी रन-रेट रेवेन्यू (run-rate revenue) मई में 492 मिलियन डॉलर से बढ़कर लगभग 900 मिलियन डॉलर पहुंच चुकी है 1। 29 सितंबर को मोंगोडीबी के साथ साझेदारी का ऐलान आया, जिसमें डेविन को एंटरप्राइज़ माइग्रेशन का इंजन बताकर बेचा गया 2। और 30 सितंबर को कोरवेव की 'फुली कनेक्टेड' कॉन्फ्रेंस में कॉग्निशन एनवीडिया के वेरा रूबिन NVL72 पर प्रोडक्शन वर्कलोड चलाने वाली दुनिया की पहली कंपनी बन गई। उसने GB200 NVL72 बेसलाइन के मुकाबले अपने SWE-2 इन्फरेंस (inference) वर्कलोड में कुल टोकन थ्रूपुट में 4.8 गुना तक की बढ़त बताई और रीइन्फोर्समेंट लर्निंग (reinforcement learning) पर 3.8 गुना 134।

बेंचमार्क है, बिल नहीं

दोनों रिलीज़ में एक ही चीज़ें गायब हैं। न थ्रूपुट के वास्तविक आंकड़े, न कीमत, न ऊर्जा खपत, न तुलना दोहराने लायक कॉन्फ़िगरेशन की डिटेल और न पूरे हुए टास्क की गिनती 1। कोरवेव की रिलीज़ इन नतीजों को 'इंडिपेंडेंट बेंचमार्क' बताती है, लेकिन ये टेस्ट कॉग्निशन के अपने इंजीनियरों ने किए और बेसलाइन भी कोरवेव के ही क्लाउड पर मौजूद थी 4। पैसों में इसका अनुवाद सिर्फ ज़ुबानी है। कोरवेव में प्रोडक्ट एंड इंजीनियरिंग के एग्जीक्यूटिव वाइस प्रेसिडेंट (EVP) चेन गोल्डबर्ग ने कहा कि इस बढ़त से हर GPU पर एक साथ ज़्यादा डेविन सेशन चलेंगे और 'हर सेशन की लागत कम होगी', लेकिन यह लागत कोई रिलीज़ जारी नहीं कर पाई 34।

दो बढ़तों के दावे, एक बेसलाइन और लागत कहीं नहीं

0x2x4x6xGB200 बेसलाइनवेरा रूबिन पर SWE-2 इन्फरेंस (कॉग्निशन)वेरा रूबिन पर RL आउटपुट टोकन (कॉग्निशन)3.8x4.8x
Data
टोकन थ्रूपुट, GB200 बेसलाइन का गुणांक (multiple)
GB200 बेसलाइन1x
वेरा रूबिन पर SWE-2 इन्फरेंस (कॉग्निशन)4.8x
वेरा रूबिन पर RL आउटपुट टोकन (कॉग्निशन)3.8x
सभी वैल्यू टोकन थ्रूपुट हैं, जो GB200 NVL72 बेसलाइन के गुणांक (multiple) के रूप में ज़ाहिर की गई हैं — यही तुलना बेंचमार्क की बताई गई मेथडोलॉजी तय करती है। परिभाषा के हिसाब से बेसलाइन 1.0x पर बैठती है और वेरा रूबिन NVL72 पर कॉग्निशन की रिपोर्ट की गई बढ़तें इसी से नापी गई हैं [1][4]। दोनों बढ़तें वेंडर से जुड़े बेंचमार्क हैं और इनमें वास्तविक आंकड़े, कीमत या ऊर्जा खपत — कुछ भी प्रकाशित नहीं। स्रोत: रनटाइमवायर [1]; बिज़नेस वायर, याहू फाइनेंस के ज़रिए [4]।1,4

ज़्यादा भारी बही-खाता कोरवेव का है

दांव दो बही-खातों पर टिके हैं। कॉग्निशन को यह दिखाना है कि उसकी 2 अरब डॉलर की फंडिंग ऐसा कंप्यूट खरीदती है जो लंबे एजेंट रन सस्ते कर दे — और वह भी तब, जब वह डेविन की कीमत क्लॉड कोड और कर्सर के मुकाबले तय कर रही है 1। कोरवेव की बही ज़्यादा भारी है। कंपनी का कहना है कि क्षमता के हर मेगावाट के लिए उसके पास 10 गुना मांग है और वह 2030 तक 8 गीगावाट (GW) क्षमता-विस्तार के टारगेट पर कायम है। कॉन्फ्रेंस के बाद कैंटर फ़िट्ज़राल्ड ने भी स्टॉक पर 'ओवरवेट' रेटिंग और 176 डॉलर का टारगेट बरकरार रखा है 5। यह पूरा विस्तार मांग के उन्हीं सबूतों के सहारे फाइनेंस हो रहा है जिनका पहला सार्वजनिक आंकड़ा एक ऐसा बेंचमार्क है, जो ग्राहक और वेंडर ने मिलकर तैयार किया। यह जोखिम CRWV के शेयरधारक ही असल में अंडरराइट कर रहे हैं।

हर सेशन की लागत ही गायब आंकड़ा है

थ्रूपुट इकोनॉमिक्स नहीं है। अगर डेविन का एक सेशन ज़्यादा टोकन खपाता है, तो प्रति सेकंड टोकन में 4.8 गुना की बढ़ोतरी हर पूरे हुए टास्क की लागत के हिसाब से कहीं कम प्रभावशाली दिखने लगती है। कैंटर फ़िट्ज़राल्ड के नोट के मुताबिक कोरवेव ने जुलाई से कीमतें 25% बढ़ाई हैं और उसके ऊपर 10% और 5। कोरवेव ने खुद जो सिलिकॉन लेवल का दावा किया है — डीपसीक R1 पर GB200 की तुलना में प्रति मेगावाट 10 गुना टोकन थ्रूपुट — वह एफिशिएंसी का आंकड़ा है, बिल नहीं। और यह दावा उसी रिलीज़ में मौजूद है, जिसमें लागत का एक भी आंकड़ा नहीं है 4। इसी बीच कॉग्निशन ने एक दिन पहले वही एजेंट मोंगोडीबी के माइग्रेशन फनल में बेच दिया था — यह वादा करते हुए कि जो काम पांच-छह घंटे लेता था, वह अब एक घंटे से थोड़ा ज़्यादा में पूरा हो जाता है 2। इस हफ्ते का असली सवाल यह है: AI कोडिंग में हर टास्क पर कीमतों की जो कटौती हो रही है, वह एफिशिएंसी के दम पर है या पूंजी के दम पर। जब तक दोनों में से कोई भी कंपनी वेरा रूबिन बनाम GB200 पर हर सेशन की लागत सार्वजनिक नहीं करती, तब तक बाज़ार गुणांक की कीमत लगा रहा है, लागत की नहीं। थ्रूपुट इकोनॉमिक्स नहीं है।

Deepdive

AI-generated from this story and its cited sources. Not investment advice.

Reader comments

0 comments

    Sign up

    Get your curated digest

    After email confirmation, you will receive a daily digest of the most relevant news that matter to your portfolio