Chips

Чип Amazon Trainium научился обучать ИИ-модели, а не только запускать их — проверка Nvidia на прочность перед отчетом 29 октября

Практический тест SemiAnalysis показал: Trainium2 и Trainium3 справляются с исследовательским обучением моделей в нативном PyTorch. Результаты опубликованы в тот же день, когда Энди Джасси заявил, что инференс пока в десять раз дороже, чем нужно, и предложил чипы Amazon в качестве решения. Сместился именно тот программный барьер, что удерживал исследователей на Nvidia. Отчет Amazon — 29 октября.

Читать оригинал

Richard TangRichard Tang · 4 min read
Share
Глава Amazon Энди Джасси пожимает руку премьер-министру Индии Нарендре Моди в Нью-Дели, 25 июня 2026 года.
1 / 5Slide 1 of 5
Глава Amazon Энди Джасси и премьер-министр Индии Нарендра Моди в Нью-Дели, июнь 2026 года. По словам Джасси, Trainium превосходит сопоставимые процессоры по соотношению цена/производительность на 30–40%.

Trainium — собственный ИИ-чип Amazon−0.72% — Amazon, down 0.72 percent today — перешагнул черту, которая его до сих пор определяла: теперь он умеет обучать модели, а не только запускать их. SemiAnalysis, независимая фирма по исследованию рынка чипов, только что завершившая недели работы со стойками Trainium3, сообщает, что PyTorch — фреймворк, которым уже пользуется большинство исследователей, — теперь исполняется на чипе нативно: код работает в режиме пошагового выполнения (eager mode), строка за строкой, как привыкли исследователи; действует инструмент ускорения torch.compile, а практически единственное изменение в коде — замена `.to("cuda")` на `.to("neuron")` 1.

Об ограничениях сказано не менее прямо: стек «даже близко не подошел к зрелости экосистемы CUDA» — программного слоя Nvidia−0.54% — Nvidia, down 0.54 percent today, — а крупнейшая из протестированных моделей насчитывала 32 млрд параметров: масштаб исследовательский, а не запуск frontier-модели 1.

Тот же день глава Amazon Энди Джасси посвятил теме спроса: в беседе с венчурной фирмой a16z он заявил, что инференс — вычисления, которые оплачиваются при каждом ответе модели, — все еще на порядок дороже необходимого, а Trainium дает на 30–40% лучшее соотношение цена/производительность, чем сопоставимые процессоры 2. Цены Nvidia на обучение держались как раз на том программном трении, которое только что измерила SemiAnalysis. Это трение размывается.

Издержки переключения и были защитным рвом

Anthropic$350B — Anthropic, private, latest valuation $350B — лаборатория ИИ, создавшая Claude, и якорный заказчик Trainium — уже выполняет на Trainium2 и Trainium3 продакшн-инференс и прогоны обучения с подкреплением 1. Исследовательское обучение оставалось последним бастионом: исследователи ежедневно перекраивают архитектуры моделей, а старый маршрут на Trainium шел через графовый компилятор в духе XLA, вынуждавший каждого, кто приходил с CUDA, переучивать свой цикл обучения 1.

SemiAnalysis обучила модель с открытыми весами Qwen3-32B, отредактировала код ее архитектуры и запустила «из коробки» рецепт gpt-oss — открытую схему обучения от OpenAI$1.18T — OpenAI, private, latest valuation $1.18T 1. Результат: 14 156 токенов в секунду при MFU 30,47% в скомпилированном режиме против 11 099 токенов при 23,89% в eager-режиме — прирост в 1,28 раза 1. MFU показывает, какую долю пиковой вычислительной мощности чипа фактически использует прогон обучения.

За этим стоят до 80 тыс. физических ядер автоматизированного контроля качества: они сверяют результаты вычислений с эталонами Nvidia на 100 тыс. самых популярных моделях в Hugging Face — репозитории, где исследователи делятся кодом 1. AWS также наняла инженера, руководившего у Google работами по нативному запуску PyTorch на чипах TPU, — чтобы повторить здесь тот же прием 1. Каждый пройденный тест — еще одна модель, которую исследователь может перенести, не переписывая код.

Сначала — маржа

Деньги пришли в движение раньше, чем тест. AWS отчиталась об операционной марже в 39,4% во II квартале 2026 года — и это несмотря на рост капитальных расходов 3. Портфель законтрактованных заказов достигает $496 млрд: мощности на 2026 год фактически распроданы, а на 2027-й — в основном уже забронированы 3.

Раскрытые будущие обязательства Anthropic и OpenAI по Trainium превышают $225 млрд 2. Ранее в этом месяце мы описывали, как Amazon продает риск по чипам Nvidia на $8 млрд; недостающей половиной той сделки было доказательство, что Trainium способен завоевывать заказы на собственном софте, — и на этой неделе такое доказательство стало публичным 2.

Квартальные капитальные расходы Amazon за три года выросли почти впятеро

$0B$20B$40B$60BIV кв. 2023II кв. 2024IV кв. 2024II кв. 2025IV кв. 2025II кв. 2026План капитальных расходов на 2026год повышен до $220 млрд
Data
Капитальные расходы
III кв. 2023$11.3B
IV кв. 2023$13.35B
I кв. 2024$13.94B
II кв. 2024$16.39B
III кв. 2024$21.28B
IV кв. 2024$26.05B
I кв. 2025$24.26B
II кв. 2025$31.37B
III кв. 2025$34.23B
IV кв. 2025$38.47B
I кв. 2026$43.23B
II кв. 2026$53.08B
Квартальные капитальные расходы — по отчетам Amazon в SEC; план на весь 2026 год — около $220 млрд — это ориентир компании, а не нанесенная на график величина.3,4

Узкое место сместилось в компилятор

Единственное, что сейчас сдерживает Trainium, — недоведенность софта, и Amazon платит за то, чтобы закрыть этот пробел. Компиляция рецепта gpt-oss заняла около 27 минут — мертвое время для исследователей, делающих новую итерацию каждый час; по словам AWS, переписанный компилятор нацелен на сокращение этого ожидания вплоть до 100 раз 1.

Amazon также близка к приобретению Decart за $7 млрд — израильского стартапа, чей стек оптимизации сокращает портирование с CUDA с месяцев до недель 5. Anthropic тоже страхуется: компания держит собственную команду по разработке чипов, хотя серийные чипы появятся не раньше 2028 года 6. Для инженеров самый ценный навык постепенно смещается от написания кода под CUDA к умению заставлять модели хорошо работать на любом самом дешевом кремнии.

29 октября — точка переоценки

Факты заканчиваются на тесте исследовательского обучения и марже AWS. Дальше — прогноз: дешевое обучение поверх дешевого инференса открывает то, что Джасси называет «серединой штанги» (barbell), — повседневный бизнес-софт, который, по его ожиданиям, станет крупнейшим источником спроса на ИИ 2.

Amazon отчитается о результатах за третий квартал 29 октября, и трейдеры рынка предсказаний Kalshi оценивают в 96% вероятность того, что Trainium станет главной темой конференц-колла 2. Вопрос для Amazon — перестанут ли инвесторы считать ее чипы побочным бизнесом. Вопрос для Nvidia — начнет ли обучение, ее самый прибыльный бизнес, оцениваться с оглядкой на чип, к которому исследователи могут перейти, не переписывая код.

Get Chips by email, free

How AI demand is reshaping chipmakers, memory and the fabs behind them. In our daily email, every weekday.

Loading AMZN…

Reader comments

0 comments

    Chips

    Bank of America doubles Marvell's credit line to $3 billion as AI shorts count $6 billion of paper profits

    An 8-K filed October 23 shows a Bank of America-led syndicate committing five years of undrawn credit to Marvell at 0.875–1.5% over SOFR, double the old line and expandable to $5 billion, with a covenant drafted for a $500 million-plus deal. The AI financing-freeze short case now has to explain that page.

    Chips

    Murata turns away customers with record JPY 673.9 billion orders; October 30 capex decides

    Murata has record orders, a plant filling six years early, and customers it must decline. The capex number due with October 30 results decides whether that rationing lasts into 2029, and the ceramic powder, not the stock price, is the ceiling until 2028.

    Chips

    Fabrinet's CEO drew $13.6 million, 1,317 times its median worker, as the stock sits 57% off its high

    Fabrinet's new proxy shows a sixth straight record year, a $13.6 million CEO pay package at 1,317 times median employee pay, and just $5.2 million of buybacks. Shareholders reading it are holding a stock 57% below its high, ahead of November 2 earnings and a December 10 say-on-pay vote.

    Chips

    Why Wall Street Got the Ultra Clean Sell-Off Backward

    Ultra Clean fell 15% when Lam Research warned of supply bottlenecks, creating an inverted sell-off in the subsystem maker that builds the bottlenecked parts.

    Chips

    Nvidia backed its own AI customers with more than $170 billion; 81% run GPUs at half capacity

    The Information counts more than $170 billion of Nvidia commitments behind its own customers, Huang says only working capital is missing, and 81% of production AI operators run their GPUs at half capacity. The market spent Thursday pricing who pays.

    Chips

    United Microelectronics CFO's stake fell 28.4% in September; insiders sold $526 million and bought nothing

    The foundry's Form 6-K, filed October 23, 2026, shows chief financial officer Chitung Liu's stake fell 28.4% in September, inside a twelve-month stretch where insiders sold $526.4 million and bought nothing. On October 28 the market finds out whether the AI-power story can carry a multiple already 52% above its own five-year median.

    Get the newsletter

    The day's AI and market news, in your inbox every weekday.