अमेज़न का Trainium अब सिर्फ AI मॉडल चलाता ही नहीं, उन्हें ट्रेन भी कर सकता है; 29 अक्टूबर की रिपोर्ट से पहले एनवीडिया की परीक्षा
Trainium2 और Trainium3 अब नेटिव PyTorch पर रिसर्च ट्रेनिंग कर पाते हैं — SemiAnalysis के हैंड्स-ऑन टेस्ट की यह रिपोर्ट उसी दिन आई जिस दिन एंडी जेसी ने इन्फेरेंस (inference) को दस गुना ज़्यादा महंगा बताया और इसका इलाज अमेज़न की चिप्स बताया। जो सॉफ्टवेयर दीवार रिसर्चर्स को एनवीडिया पर बनाए रखती थी, वही अब हिली है; अमेज़न 29 अक्टूबर को नतीजे घोषित करेगा।
Richard Tang · 4 min read
अमेज़न−0.72% — अमेज़न, down 0.72 percent today का इन-हाउस AI चिप Trainium उस सीमा को पार कर चुका है जो अब तक उसकी पहचान थी: वह अब मॉडल्स को सिर्फ चलाता ही नहीं, उन्हें ट्रेन भी कर सकता है। चिप रिसर्च की स्वतंत्र फर्म SemiAnalysis — जो हफ्तों तक Trainium3 रैक्स पर काम करके अभी-अभी लौटी है — बताती है कि PyTorch, यानी वह फ्रेमवर्क जिसे ज़्यादातर रिसर्चर पहले से इस्तेमाल करते हैं, अब नेटिव रूप से चलता है: कोड ईगर मोड (eager mode) में, रिसर्चर्स की उम्मीद की तरह लाइन-दर-लाइन चलता है, torch.compile स्पीड-अप टूल काम करता है और एकमात्र बदलाव बस इतना है कि `.to("cuda")` की जगह `.to("neuron")` लिखना है 1।
पाबंदियां भी साफ-साफ बताई गई हैं: यह स्टैक "अभी CUDA इकोसिस्टम की परिपक्वता के करीब भी नहीं" है — एनवीडिया−0.54% — एनवीडिया, down 0.54 percent today की सॉफ्टवेयर लेयर — और टेस्ट का सबसे बड़ा मॉडल 32 अरब पैरामीटर्स का रहा, यानी रिसर्च-स्तर का, कोई फ्रंटियर-लेवल रन नहीं 1।
अमेज़न के सीईओ एंडी जेसी ने उसी दिन मांग की बात की। वेंचर फर्म a16z को बताते हुए उन्होंने कहा कि इन्फेरेंस — यानी मॉडल के हर जवाब पर जो कंप्यूटिंग खरीदनी पड़ती है — आज भी दस गुना ज़्यादा महंगा है, और Trainium तुलनीय प्रोसेसरों के मुकाबले 30 से 40 फीसदी बेहतर प्राइस-परफॉर्मेंस देता है 2। एनवीडिया की ट्रेनिंग कीमतें उसी सॉफ्टवेयर रुकावट पर टिकी हुई हैं जिसे SemiAnalysis ने अभी नापा है। वही रुकावट अब घिस रही है।
स्विचिंग कॉस्ट ही असली खाई थी
Claude बनाने वाली AI लैब और Trainium की एंकर कस्टमर Anthropic$350B — Anthropic, private, latest valuation $350B पहले से ही Trainium2 और Trainium3 पर प्रोडक्शन इन्फेरेंस और रीइन्फोर्समेंट लर्निंग (reinforcement learning) के रोलआउट चलाती है 1। बस रिसर्च ट्रेनिंग ही अपवाद थी, क्योंकि रिसर्चर रोज़ मॉडल के आर्किटेक्चर बदलते रहते हैं और Trainium का पुराना रास्ता XLA स्टाइल के ग्राफ कंपाइलर से गुज़रता था — जिससे CUDA से आने वाले हर शख्स को अपना ट्रेनिंग लूप नए सिरे से सीखना पड़ता था 1।
SemiAnalysis ने ओपन-वेट (open-weight) मॉडल Qwen3-32B ट्रेन किया, उसके आर्किटेक्चर कोड में बदलाव किए और gpt-oss रेसिपी — OpenAI$1.18T — OpenAI, private, latest valuation $1.18T का ओपन-वेट ट्रेनिंग सेटअप — बिना किसी छेड़छाड़ के चला दिया 1। नतीजा: कंपाइल्ड मोड (compiled mode) में 30.47 फीसदी MFU पर 14,156 टोकन प्रति सेकंड, जबकि ईगर मोड में 23.89 फीसदी पर 11,099 टोकन प्रति सेकंड — यानी 1.28 गुना का इज़ाफा 1। MFU नापता है कि किसी रन में चिप की पीक कंप्यूटिंग क्षमता का असल में कितना हिस्सा इस्तेमाल हो पाता है।
इन नतीजों के पीछे 80,000 तक के फिज़िकल कोर का एक ऑटोमेटेड क्वालिटी कंट्रोल सिस्टम काम करता है। यह सिस्टम Hugging Face के टॉप 100,000 मॉडलों पर एनवीडिया के बेसलाइन से न्यूमेरिक्स की जांच करता है — Hugging Face वही रिपॉज़िटरी है जहां रिसर्चर कोड शेयर करते हैं 1। AWS ने वह इंजीनियर भी हायर कर लिया है जिसने गूगल में अपनी TPU चिप्स पर PyTorch को नेटिव चलाने की मुहिम का नेतृत्व किया था — अब यहां वही चाल दोहराने के लिए 1। हर पास होता टेस्ट एक और ऐसा मॉडल है जिसे रिसर्चर कोड दोबारा लिखे बिना शिफ्ट कर सकता है।
मार्जिन का सबूत पहले आया
टेस्ट से पहले ही पैसा बोल चुका था। पूंजीगत खर्च बढ़ने के बावजूद AWS ने 2026 की दूसरी तिमाही में 39.4 फीसदी का ऑपरेटिंग मार्जिन दर्ज किया 3। कंपनी का कॉन्ट्रैक्टेड बैकलॉग 496 अरब डॉलर के लेवल पर पहुंच चुका है — 2026 की कैपेसिटी असल में पहले ही बिक चुकी है और 2027 की भी ज़्यादातर बुक है 3।
Anthropic और OpenAI की ओर से अब तक सामने आई भविष्य की Trainium कमिटमेंट्स 225 अरब डॉलर से ज़्यादा हैं 2। इसी महीने की शुरुआत में हमने लिखा था कि अमेज़न एनवीडिया की 8 अरब डॉलर की चिप्स पर जोखिम बेच रहा है। उस सौदे का जो आधा हिस्सा अब तक गायब था, वह था इस बात का सबूत कि Trainium अपने ही सॉफ्टवेयर पर काम जीत सकता है — और वही सबूत इस हफ्ते सार्वजनिक हो गया 2।
तीन साल में अमेज़न का तिमाही पूंजीगत खर्च करीब पांच गुना बढ़ा
Data
| पूंजीगत खर्च | |
|---|---|
| Q3 '23 | $11.3B |
| Q4 '23 | $13.35B |
| Q1 '24 | $13.94B |
| Q2 '24 | $16.39B |
| Q3 '24 | $21.28B |
| Q4 '24 | $26.05B |
| Q1 '25 | $24.26B |
| Q2 '25 | $31.37B |
| Q3 '25 | $34.23B |
| Q4 '25 | $38.47B |
| Q1 '26 | $43.23B |
| Q2 '26 | $53.08B |
बॉटलनेक अब कंपाइलर पर शिफ्ट हो गया
अब Trainium को सीमित करने वाली चीज़ सॉफ्टवेयर की बारीकी है, और इस कमी को मिटाने के लिए अमेज़न पैसा लगा रहा है। gpt-oss रेसिपी कंपाइल होने में करीब 27 मिनट लगे — हर घंटे नया प्रयोग करने वाले रिसर्चर के लिए यह पूरा डेड टाइम है। AWS का कहना है कि नए सिरे से बनाए जा रहे कंपाइलर से यह इंतज़ार सौ गुना तक कम हो सकता है 1।
अमेज़न Decart का 7 अरब डॉलर का अधिग्रहण के भी करीब है। यह इज़रायली स्टार्टअप है, जिसका ऑप्टिमाइज़ेशन स्टैक CUDA से पोर्ट करने का महीनों लंबा काम हफ्तों में सिमटा देता है 5। Anthropic भी दोनों तरफ़ दांव लगाए बैठा है — उसकी अपनी एक चिप टीम है — हालांकि प्रोडक्शन सिलिकॉन 2028 से पहले नहीं आएगा 6। इंजीनियरों के लिए प्रीमियम स्किल धीरे-धीरे खिसक रही है — CUDA लिखने से हटकर इस ओर कि जो भी सिलिकॉन सबसे सस्ता हो, मॉडल को उसी पर बेहतरीन चलाया जाए।
29 अक्टूबर को होगा इस ट्रेड का रीप्राइसिंग
तथ्य यहीं खत्म होते हैं — ट्रेनिंग टेस्ट और AWS का मार्जिन। आगे का पूरा हिस्सा अनुमान (प्रोजेक्शन) है: सस्ती इन्फेरेंस के ऊपर खड़ी सस्ती ट्रेनिंग वह इलाका खोलेगी जिसे जेसी 'बारबेल का मध्य' (middle of the barbell) कहते हैं — यानी रोज़मर्रा के बिज़नेस सॉफ्टवेयर, जिसे वे एआई की सबसे बड़ी डिमांड का ज़रिया बनते देखना चाहते हैं 2।
अमेज़न 29 अक्टूबर को तीसरी तिमाही के नतीजे घोषित करेगा। प्रेडिक्शन मार्केट Kalshi पर ट्रेडरों ने 96 प्रतिशत की संभावना जताई है कि नतीजों की कॉल (अर्निंग्स कॉल) में Trainium ही हावी रहेगा 2। अमेज़न के लिए सवाल यह है कि क्या निवेशक उसकी चिप्स को साइड बिज़नेस मानना छोड़ देंगे। एनवीडिया के लिए सवाल यह है कि क्या ट्रेनिंग — उसका सबसे ज़्यादा कमाई देने वाला कारोबार — अब उस चिप के मुकाबले कीमत पाने लगेगा जिस पर रिसर्चर बिना कोड दोबारा लिखे चले जा सकते हैं।
Get Chips by email, free
How AI demand is reshaping chipmakers, memory and the fabs behind them. In our daily email, every weekday.
