Чип Amazon Trainium научился обучать ИИ-модели, а не только запускать их — проверка Nvidia на прочность перед отчетом 29 октября
Практический тест SemiAnalysis показал: Trainium2 и Trainium3 справляются с исследовательским обучением моделей в нативном PyTorch. Результаты опубликованы в тот же день, когда Энди Джасси заявил, что инференс пока в десять раз дороже, чем нужно, и предложил чипы Amazon в качестве решения. Сместился именно тот программный барьер, что удерживал исследователей на Nvidia. Отчет Amazon — 29 октября.
Richard Tang · 4 min read
Trainium — собственный ИИ-чип Amazon−0.72% — Amazon, down 0.72 percent today — перешагнул черту, которая его до сих пор определяла: теперь он умеет обучать модели, а не только запускать их. SemiAnalysis, независимая фирма по исследованию рынка чипов, только что завершившая недели работы со стойками Trainium3, сообщает, что PyTorch — фреймворк, которым уже пользуется большинство исследователей, — теперь исполняется на чипе нативно: код работает в режиме пошагового выполнения (eager mode), строка за строкой, как привыкли исследователи; действует инструмент ускорения torch.compile, а практически единственное изменение в коде — замена `.to("cuda")` на `.to("neuron")` 1.
Об ограничениях сказано не менее прямо: стек «даже близко не подошел к зрелости экосистемы CUDA» — программного слоя Nvidia−0.54% — Nvidia, down 0.54 percent today, — а крупнейшая из протестированных моделей насчитывала 32 млрд параметров: масштаб исследовательский, а не запуск frontier-модели 1.
Тот же день глава Amazon Энди Джасси посвятил теме спроса: в беседе с венчурной фирмой a16z он заявил, что инференс — вычисления, которые оплачиваются при каждом ответе модели, — все еще на порядок дороже необходимого, а Trainium дает на 30–40% лучшее соотношение цена/производительность, чем сопоставимые процессоры 2. Цены Nvidia на обучение держались как раз на том программном трении, которое только что измерила SemiAnalysis. Это трение размывается.
Издержки переключения и были защитным рвом
Anthropic$350B — Anthropic, private, latest valuation $350B — лаборатория ИИ, создавшая Claude, и якорный заказчик Trainium — уже выполняет на Trainium2 и Trainium3 продакшн-инференс и прогоны обучения с подкреплением 1. Исследовательское обучение оставалось последним бастионом: исследователи ежедневно перекраивают архитектуры моделей, а старый маршрут на Trainium шел через графовый компилятор в духе XLA, вынуждавший каждого, кто приходил с CUDA, переучивать свой цикл обучения 1.
SemiAnalysis обучила модель с открытыми весами Qwen3-32B, отредактировала код ее архитектуры и запустила «из коробки» рецепт gpt-oss — открытую схему обучения от OpenAI$1.18T — OpenAI, private, latest valuation $1.18T 1. Результат: 14 156 токенов в секунду при MFU 30,47% в скомпилированном режиме против 11 099 токенов при 23,89% в eager-режиме — прирост в 1,28 раза 1. MFU показывает, какую долю пиковой вычислительной мощности чипа фактически использует прогон обучения.
За этим стоят до 80 тыс. физических ядер автоматизированного контроля качества: они сверяют результаты вычислений с эталонами Nvidia на 100 тыс. самых популярных моделях в Hugging Face — репозитории, где исследователи делятся кодом 1. AWS также наняла инженера, руководившего у Google работами по нативному запуску PyTorch на чипах TPU, — чтобы повторить здесь тот же прием 1. Каждый пройденный тест — еще одна модель, которую исследователь может перенести, не переписывая код.
Сначала — маржа
Деньги пришли в движение раньше, чем тест. AWS отчиталась об операционной марже в 39,4% во II квартале 2026 года — и это несмотря на рост капитальных расходов 3. Портфель законтрактованных заказов достигает $496 млрд: мощности на 2026 год фактически распроданы, а на 2027-й — в основном уже забронированы 3.
Раскрытые будущие обязательства Anthropic и OpenAI по Trainium превышают $225 млрд 2. Ранее в этом месяце мы описывали, как Amazon продает риск по чипам Nvidia на $8 млрд; недостающей половиной той сделки было доказательство, что Trainium способен завоевывать заказы на собственном софте, — и на этой неделе такое доказательство стало публичным 2.
Квартальные капитальные расходы Amazon за три года выросли почти впятеро
Data
| Капитальные расходы | |
|---|---|
| III кв. 2023 | $11.3B |
| IV кв. 2023 | $13.35B |
| I кв. 2024 | $13.94B |
| II кв. 2024 | $16.39B |
| III кв. 2024 | $21.28B |
| IV кв. 2024 | $26.05B |
| I кв. 2025 | $24.26B |
| II кв. 2025 | $31.37B |
| III кв. 2025 | $34.23B |
| IV кв. 2025 | $38.47B |
| I кв. 2026 | $43.23B |
| II кв. 2026 | $53.08B |
Узкое место сместилось в компилятор
Единственное, что сейчас сдерживает Trainium, — недоведенность софта, и Amazon платит за то, чтобы закрыть этот пробел. Компиляция рецепта gpt-oss заняла около 27 минут — мертвое время для исследователей, делающих новую итерацию каждый час; по словам AWS, переписанный компилятор нацелен на сокращение этого ожидания вплоть до 100 раз 1.
Amazon также близка к приобретению Decart за $7 млрд — израильского стартапа, чей стек оптимизации сокращает портирование с CUDA с месяцев до недель 5. Anthropic тоже страхуется: компания держит собственную команду по разработке чипов, хотя серийные чипы появятся не раньше 2028 года 6. Для инженеров самый ценный навык постепенно смещается от написания кода под CUDA к умению заставлять модели хорошо работать на любом самом дешевом кремнии.
29 октября — точка переоценки
Факты заканчиваются на тесте исследовательского обучения и марже AWS. Дальше — прогноз: дешевое обучение поверх дешевого инференса открывает то, что Джасси называет «серединой штанги» (barbell), — повседневный бизнес-софт, который, по его ожиданиям, станет крупнейшим источником спроса на ИИ 2.
Amazon отчитается о результатах за третий квартал 29 октября, и трейдеры рынка предсказаний Kalshi оценивают в 96% вероятность того, что Trainium станет главной темой конференц-колла 2. Вопрос для Amazon — перестанут ли инвесторы считать ее чипы побочным бизнесом. Вопрос для Nvidia — начнет ли обучение, ее самый прибыльный бизнес, оцениваться с оглядкой на чип, к которому исследователи могут перейти, не переписывая код.
Get Chips by email, free
How AI demand is reshaping chipmakers, memory and the fabs behind them. In our daily email, every weekday.






