---
title: "अपने ही टेस्ट में दोगुने तक थ्रूपुट देखकर मोडल 30 करोड़ डॉलर का एआई एजेंट काम एनवीडिया के वेरा CPU पर शिफ्ट कर रहा है"
description: "मोडल अपना वह प्रोडक्ट, जिससे सालाना 30 करोड़ डॉलर आते हैं, अब एनवीडिया के आर्म-आधारित वेरा CPU पर चलाएगा। कंपनी के अपने टेस्टों में, कंटेनरों से भरे सर्वर पर, इंटेल की मशीन की तुलना में इस CPU का थ्रूपुट (throughput) दोगुने तक दिखा। कंपनी जो वजह बताती है—CPU का काम पूरा होने तक GPU खाली बैठे रहते हैं—वह CPU चुनने के फैसले को महंगे चिप्स की कमाई का फैसला बना देती है।"
publisher: "The Inference"
section: "Data Center"
published: 2026-10-21T18:07:11.682Z
modified: 2026-10-21T18:07:11.682Z
canonical: https://theinference.org/article/modal-moves-300-million-of-ai-agent-work-to-nvidia-s-vera-cpu-after-its-own-tests-showed-up-to-2x-throughput/hi
language: hi
keywords: "Modal, Nvidia, AI Agents, Cloud Computing, Semiconductors"
---

# अपने ही टेस्ट में दोगुने तक थ्रूपुट देखकर मोडल 30 करोड़ डॉलर का एआई एजेंट काम एनवीडिया के वेरा CPU पर शिफ्ट कर रहा है

> मोडल अपना वह प्रोडक्ट, जिससे सालाना 30 करोड़ डॉलर आते हैं, अब एनवीडिया के आर्म-आधारित वेरा CPU पर चलाएगा। कंपनी के अपने टेस्टों में, कंटेनरों से भरे सर्वर पर, इंटेल की मशीन की तुलना में इस CPU का थ्रूपुट (throughput) दोगुने तक दिखा। कंपनी जो वजह बताती है—CPU का काम पूरा होने तक GPU खाली बैठे रहते हैं—वह CPU चुनने के फैसले को महंगे चिप्स की कमाई का फैसला बना देती है।

[मोडल](https://theinference.org/markets/companies/modal) अपने एजेंट सैंडबॉक्स (agent sandbox) [एनवीडिया](https://theinference.org/markets/companies/nvidia) के [आर्म](https://theinference.org/markets/companies/arm)-आधारित वेरा CPU पर ले जा रहा है। [इंटेल](https://theinference.org/markets/companies/intel) और [एएमडी](https://theinference.org/markets/companies/amd) के सिलिकॉन पर आज तक चलती आई कंपनी के लिए यह उनसे हटने का पहला कदम है। कंपनी ने यह फैसला तब लिया [जब उसके अपने बेंचमार्क में कंटेनरों से भरे एक सर्वर पर टास्क थ्रूपुट दोगुने तक दिखा](https://thenextweb.com/news/modal-nvidia-vera-cpu-sandboxes) [1]।

कंपनी की करीब एक-तिहाई कमाई इसी लेयर पर टिकी है। सैंडबॉक्स यानी वे अलग-थलग कंप्यूटर जहां एआई एजेंट कोड लिखते और चलाते हैं। मोडल की बताई [1 अरब डॉलर की रन रेट](https://cloudnews.tech/modal-tops-1-billion-in-annualized-revenue-raises-750m/) में से इनसे सालाना आधार पर 30 करोड़ डॉलर आते हैं, और अब तक करीब 3 अरब सैंडबॉक्स बन चुके हैं [1][2]। मोडल जो वजह बताता है वह यूटिलाइज़ेशन का दावा है: रीइन्फोर्समेंट लर्निंग (reinforcement learning) में CPU का काम पूरा होने तक महंगे GPU अक्सर खाली बैठे रहते हैं [1]।

## CPU क्यों तय करता है कि GPU कितना कमाएंगे

मोडल के मुताबिक ज्यादातर ट्रेनिंग सेटअप आज भी सिंक्रोनस (synchronous) हैं। हर रोलआउट—यानी किसी टास्क पर मॉडल का एक पूरा प्रयास, जिसका नतीजा ट्रेनिंग सिग्नल बन जाता है—का कुछ हिस्सा CPU पर बीतता है। और पूरा रोलआउट सेट खत्म हुए तभी बेकार बैठे GPU अगले स्टेप पर बढ़ते हैं। इसलिए CPU पर बचा समय ही GPU पर बचा समय है [3]। यानी सस्ता प्रोसेसर तय करता है कि महंगे प्रोसेसर का कितना हिस्सा इस्तेमाल होगा। तेज़ CPU असल में GPU-घंटे खरीद देता है।

## एजेंट के काम में भारी उतार-चढ़ाव, वेरा की बैंडविड्थ उसे सोख लेती है

सैंडबॉक्स के किराएदार शोर मचाते हैं: एक एजेंट लैंग्वेज मॉडल के जवाब का इंतज़ार करते हुए खाली बैठा रहता है, फिर सॉफ्टवेयर इंस्टॉल के दौरान अपनी आम कंप्यूटिंग पावर का दस गुना खींच लेता है। एक ही होस्ट पर सैकड़ों ऐसे एजेंट साझा रहते हैं, इसलिए एक ग्राहक का झटका दूसरे के काम को धीमा कर सकता है [1]।

मोडल के 50 कोडिंग टास्क वाले बेंचमार्क में वेरा ने इंटेल, एएमडी और [अमेज़न](https://theinference.org/markets/companies/amazon) के चिप्स को एक-एक टास्क पर हराया, लेकिन फर्क बस थोड़ा सा था। असली फर्क लोड के तहत खुला: जैसे-जैसे कंटेनर जुड़ते गए, वेरा अपनी रफ्तार बनाए रखता रहा, जबकि बाकी अपनी हद पर पहुंचकर अटक गए। मोडल इसका श्रेय वेरा की मेमोरी बैंडविड्थ को देता है [1][3]। यह नतीजा मोडल का अपना है और इसकी अभी तक स्वतंत्र जांच नहीं हुई है [1]।

## प्रीमियम अब आइसोलेशन से हटकर ट्रेनिंग लूप की ओर

मोडल ने 14 अक्टूबर को 15.75 अरब डॉलर की वैल्यूएशन पर 75 करोड़ डॉलर जुटाए थे और कहा था कि यह पैसा ऊपर की लेयरों में लगेगा — रीइन्फोर्समेंट लर्निंग और पोस्ट-ट्रेनिंग टूल्स इनमें शामिल हैं [2]। प्रतिद्वंद्वी क्लाउड [टुगेदर एआई](https://theinference.org/markets/companies/together-ai) ने [19 अक्टूबर को यही लेयर खोल दी](https://www.together.ai/blog/together-post-training): आरक्षित B200 GPU, ग्राहक-परिभाषित ट्रेनिंग लूप और शुरुआती दर 9 डॉलर प्रति GPU-घंटा [4][5]।

इसके नीचे की लेयर कमोडिटी बनती जा रही है: [पर्प्लेक्सिटी ने अपना प्रोडक्शन सैंडबॉक्स SPACE ओपन-सोर्स कर दिया है](https://forkast.news/the-sandbox-layer-is-commoditizing-modal-just-raised-at-15-75x-revenue-anyway/), और [कोरवीव](https://theinference.org/markets/companies/coreweave), [अकामाई](https://theinference.org/markets/companies/akamai) और [क्रूसो](https://theinference.org/markets/companies/crusoe) यह सेवा पहले से दे रहे हैं [6][8]। फिर भी उस आइसोलेशन के लिए एजेंट कंपनियां मोडल को E2B या Daytona की तुलना में प्रति वर्चुअल CPU-घंटा करीब 41% ज़्यादा चुकाती हैं [6]।

यह दर मोडल की अपनी सामान्य कंप्यूट दर के मुकाबले करीब तीन गुना है [6]। मोडल अपनी कैपेसिटी बीस से ज़्यादा क्लाउडों से किराए पर लेता है और उसका अपना कोई डेटा सेंटर नहीं है। इसलिए पैकिंग डेंसिटी (packing density) दोगुनी करने वाली चिप किराए के हर सर्वर की कमाई बढ़ा देती है [2]।

## सॉकेट (socket) का जोखिम इंटेल और एएमडी के हिस्से

एनवीडिया ने मार्च में वेरा को 88 कोर वाले, एजेंटों के लिए बने CPU के रूप में लॉन्च किया था और [एंथ्रोपिक](https://theinference.org/markets/companies/anthropic) और [ओपनएआई](https://theinference.org/markets/companies/openai) को अपने पहले यूज़र्स में गिना था [1]। इसे डिप्लॉय करने की योजना बनाने वाले क्लाउडों में अलीबाबा क्लाउड, [बाइटडांस](https://theinference.org/markets/companies/bytedance), कोरवीव, [नेबियस](https://theinference.org/markets/companies/nebius) और [ओरेकल](https://theinference.org/markets/companies/oracle) शामिल हैं [3]। यह फायदा एनवीडिया को दो बार मिलता है — एक बार CPU में, दूसरी बार उन GPU में जिन्हें वेरा व्यस्त रखता है — जबकि उस इकलौती लेयर में, जहां एजेंट कोड रन करते हैं, [इंटेल और एएमडी वह सॉकेट गंवा बैठते हैं जिस पर उनकी अपने-आप पकड़ थी](https://theinference.org/article/amd-raises-its-cpu-forecast-a-third-time-to-200-billion-nvidia-already-ships-the-rival-rack)।

## प्रोडक्शन में चलने तक 'दोगुना' बस एक दावा है

ग्राहकों का काम कब वेरा पर पहुंचेगा, इसकी मोडल ने कोई तारीख नहीं दी है। एनवीडिया के मुताबिक [पार्टनरों के लिए वेरा की उपलब्धता 2026 की दूसरी छमाही में आएगी](https://www.unite.ai/modal-plans-nvidia-vera-rollout-for-sandboxes-in-first-arm-move/) [1][3]। मोडल ने अपने विकल्प भी खुले रखे हैं: इंटेल और एएमडी को रोटेशन में बनाए रखा है और हर जॉब उसी चिप को सौंपी जाती है जो उसे सबसे अच्छे से चलाती हो [7]। इस पूरे आकलन का फैसला इसी से होगा कि [कंटेनरों से भरे सर्वर पर मिलने वाला फायदा मोडल के अपने बेंचमार्क से बाहर भी टिकता है या नहीं](https://theinference.org/article/cognition-s-4-8x-benchmark-proves-throughput-not-cheaper-agent-work), और यह भी कि जो आइसोलेशन लेयर अब मुफ्त मिल रही है, उसके बावजूद 41% का प्रीमियम टिक पाता है या नहीं [6]।

## Takeaway

अब CPU चुनना भी GPU की इकोनॉमिक्स का फैसला बन गया है: अगर वेरा कंटेनरों से भरे सर्वर पर थ्रूपुट सच में दोगुना कर पाता है, तो मोडल के किराए के सर्वर करीब दोगुनी कमाई करेंगे। लेकिन यह फायदा मोडल के अपने बेंचमार्क (benchmark) का नतीजा है, और उसके नीचे बैठी सैंडबॉक्स लेयर कमोडिटी बनती जा रही है।

## Sources

1. [The Next Web, "Modal says Nvidia's Vera CPU doubles throughput for its AI sandboxes", 19 October 2026](https://thenextweb.com/news/modal-nvidia-vera-cpu-sandboxes)
2. [Cloudnews, "Modal Tops $1 Billion in Annualized Revenue, Raises $750M", 21 October 2026](https://cloudnews.tech/modal-tops-1-billion-in-annualized-revenue-raises-750m/)
3. [Unite.AI, "Modal Plans NVIDIA Vera Rollout for Sandboxes in First Arm Move", 19 October 2026](https://www.unite.ai/modal-plans-nvidia-vera-rollout-for-sandboxes-in-first-arm-move/)
4. [Together AI, "Together Post-Training: frontier-grade model shaping, the way that fits you", 19 October 2026](https://www.together.ai/blog/together-post-training)
5. [TokenPost, "Together AI Launches Post-Training Service With Reserved GPU Capacity", 21 October 2026](https://www.tokenpost.com/news/technology/35231)
6. [AInvest, "Modal Raised at 15.75x Revenue. Its Compute Is Rented, and Its Sandbox Is a Commodity", 19 October 2026](https://www.ainvest.com/news/modal-raised-15-75x-revenue-compute-rented-sandbox-commodity-2610/)
7. [AI Weekly, "Modal Adds Nvidia Vera CPU to Host AI Agents, Claims 2x Throughput", 20 October 2026](https://aiweekly.co/alerts/modal-adds-nvidia-vera-cpu-to-host-ai-agents-claims-2x-throughput)
8. [Forkast News, "The Sandbox Layer Is Commoditizing. Modal Just Raised at 15.75x Revenue Anyway.", 19 October 2026](https://forkast.news/the-sandbox-layer-is-commoditizing-modal-just-raised-at-15-75x-revenue-anyway/)


---

अपने ही टेस्ट में दोगुने तक थ्रूपुट देखकर मोडल 30 करोड़ डॉलर का एआई एजेंट काम एनवीडिया के वेरा CPU पर शिफ्ट कर रहा है — The Inference. Canonical: https://theinference.org/article/modal-moves-300-million-of-ai-agent-work-to-nvidia-s-vera-cpu-after-its-own-tests-showed-up-to-2x-throughput/hi