Chips

Trainium, da Amazon, já treina modelos de IA, e não apenas os executa, pondo a Nvidia à prova antes do balanço de 29 de outubro

Teste prático da SemiAnalysis mostra que Trainium2 e Trainium3 já dão conta do treinamento de pesquisa em PyTorch nativo — divulgado no mesmo dia em que Andy Jassy classificou a inferência como 10 vezes mais cara do que deveria e ofereceu os chips da Amazon como solução. O que mudou foi a barreira de software que mantinha os pesquisadores na Nvidia; a Amazon divulga o balanço em 29 de outubro.

Ler o original

Richard TangRichard Tang · 4 min read
Share
O CEO da Amazon, Andy Jassy, cumprimenta o primeiro-ministro indiano, Narendra Modi, em Nova Délhi, em 25 de junho de 2026.
1 / 5Slide 1 of 5
O CEO da Amazon, Andy Jassy, com o primeiro-ministro indiano Narendra Modi em Nova Délhi, em junho de 2026. Segundo Jassy, o Trainium entrega uma relação preço-desempenho de 30% a 40% melhor que a de processadores comparáveis.

O Trainium, chip de IA próprio da Amazon−0.72% — Amazon, down 0.72 percent today, cruzou a linha que o definia: agora ele treina modelos, e não apenas os executa. A SemiAnalysis, firma independente de pesquisa de chips recém-saída de semanas de testes em racks de Trainium3, relata que o PyTorch, o framework que a maioria dos pesquisadores já usa, agora roda de forma nativa: o código executa em modo eager, linha por linha, como os pesquisadores esperam; a ferramenta de aceleração torch.compile funciona; e praticamente a única mudança necessária é trocar `.to("cuda")` por `.to("neuron")` 1.

Os limites também estão postos com franqueza: a pilha de software está "ainda muito longe da maturidade do ecossistema CUDA", a camada de software da Nvidia−0.54% — Nvidia, down 0.54 percent today, e o maior modelo testado tinha 32 bilhões de parâmetros — escala de pesquisa, não de um treino de fronteira 1.

O CEO da Amazon, Andy Jassy, dedicou o mesmo dia à demanda: disse ao fundo de venture capital a16z que a inferência — a computação paga cada vez que um modelo responde — ainda é uma ordem de grandeza mais cara do que deveria, e que o Trainium entrega uma relação preço-desempenho de 30% a 40% melhor que a de processadores comparáveis 2. Os preços de treinamento da Nvidia sempre se apoiaram no atrito de software que a SemiAnalysis acaba de medir. Esse atrito está sendo corroído.

O custo de troca era o fosso competitivo

A Anthropic$350B — Anthropic, private, latest valuation $350B, laboratório de IA criador do Claude e cliente âncora do Trainium, já roda inferência em produção e rollouts de aprendizado por reforço em Trainium2 e Trainium3 1. O treinamento de pesquisa era o último reduto: pesquisadores remodelam as arquiteturas dos modelos diariamente, e o antigo caminho do Trainium passava por um compilador de grafos no estilo XLA, que obrigava quem vinha do CUDA a reaprender o próprio loop de treinamento 1.

A SemiAnalysis treinou o Qwen3-32B, de pesos abertos, editou o código de sua arquitetura e rodou, sem mexer em nada, a receita gpt-oss, a configuração de treinamento de pesos abertos da OpenAI$1.18T — OpenAI, private, latest valuation $1.18T 1. Resultado: 14.156 tokens por segundo com MFU de 30,47% em modo compilado, ante 11.099 e 23,89% em modo eager — um ganho de 1,28x 1. O MFU mede quanto do poder de cálculo máximo de um chip uma execução de fato aproveita.

Por trás disso há até 80 mil núcleos físicos dedicados ao controle de qualidade automatizado: eles conferem os resultados numéricos contra referências da Nvidia nos 100 mil principais modelos do Hugging Face, o repositório onde os pesquisadores compartilham código 1. A AWS também contratou o engenheiro que liderou o esforço da Google para rodar PyTorch nativamente em seus chips TPU, para repetir a jogada aqui 1. Cada teste aprovado é mais um modelo que um pesquisador pode migrar sem reescrever código.

A evidência das margens chegou antes

O dinheiro se mexeu antes do teste. A AWS registrou margem operacional de 39,4% no segundo trimestre de 2026, mesmo com os gastos de capital em alta 3. O backlog contratado chega a US$ 496 bilhões, com capacidade praticamente esgotada para 2026 e em grande parte já reservada para 2027 3.

Os compromissos futuros com o Trainium já divulgados pela Anthropic e pela OpenAI passam de US$ 225 bilhões 2. No início do mês, descrevemos a Amazon vendendo o risco de US$ 8 bilhões em chips da Nvidia; a metade que faltava nessa operação era a prova de que o Trainium conseguiria conquistar trabalho com o próprio software — e essa prova veio a público nesta semana 2.

Os gastos de capital trimestrais da Amazon quase quintuplicaram em três anos

$0B$20B$40B$60B4º tri '232º tri '244º tri '242º tri '254º tri '252º tri '26Plano de capex de 2026 elevadopara US$ 220 bi
Data
Gastos de capital
3º tri '23$11.3B
4º tri '23$13.35B
1º tri '24$13.94B
2º tri '24$16.39B
3º tri '24$21.28B
4º tri '24$26.05B
1º tri '25$24.26B
2º tri '25$31.37B
3º tri '25$34.23B
4º tri '25$38.47B
1º tri '26$43.23B
2º tri '26$53.08B
Gastos de capital trimestrais com base nos registros da Amazon na SEC; o plano de cerca de US$ 220 bilhões para o ano inteiro de 2026 é orientação da companhia, não um ponto do gráfico.3,4

O gargalo mudou para o compilador

O que limita o Trainium hoje é o acabamento do software, e a Amazon está pagando para fechar essa lacuna. Compilar a receita gpt-oss levou cerca de 27 minutos, tempo morto para pesquisadores que iteram a cada hora; a AWS diz que um compilador reconstruído tem como meta cortar essa espera em até cem vezes 1.

A companhia também está próxima de concluir a aquisição da Decart por US$ 7 bilhões, startup israelense cuja pilha de otimização encurta de meses para semanas a migração do CUDA 5. A Anthropic também se protege, com equipe própria de chips — embora o silício de produção não deva chegar antes de 2028 6. Para os engenheiros, a habilidade mais valorizada está se deslocando: sai escrever CUDA, entra fazer os modelos rodarem bem no silício que estiver mais barato.

29 de outubro é a data em que o trade se reprecifica

Os fatos vão até o teste de treinamento e a margem da AWS. O que vem depois é projeção: treinamento mais barato empilhado sobre inferência mais barata, abrindo o que Jassy chama de meio do halter (barbell) — o software corporativo do dia a dia que ele espera que se torne a maior fonte de demanda da IA 2.

A Amazon divulga os resultados do terceiro trimestre em 29 de outubro, e traders do mercado de previsão Kalshi dão 96% de chance de o Trainium dominar a teleconferência de resultados 2. A pergunta para a Amazon é se os investidores param de tratar os chips como negócio paralelo. A pergunta para a Nvidia é se o treinamento, seu negócio mais lucrativo, começa a ser precificado contra um chip para o qual os pesquisadores podem migrar sem reescrever código.

Get Chips by email, free

How AI demand is reshaping chipmakers, memory and the fabs behind them. In our daily email, every weekday.

Loading AMZN…

Reader comments

0 comments

    Chips

    Bank of America doubles Marvell's credit line to $3 billion as AI shorts count $6 billion of paper profits

    An 8-K filed October 23 shows a Bank of America-led syndicate committing five years of undrawn credit to Marvell at 0.875–1.5% over SOFR, double the old line and expandable to $5 billion, with a covenant drafted for a $500 million-plus deal. The AI financing-freeze short case now has to explain that page.

    Chips

    Murata turns away customers with record JPY 673.9 billion orders; October 30 capex decides

    Murata has record orders, a plant filling six years early, and customers it must decline. The capex number due with October 30 results decides whether that rationing lasts into 2029, and the ceramic powder, not the stock price, is the ceiling until 2028.

    Chips

    Fabrinet's CEO drew $13.6 million, 1,317 times its median worker, as the stock sits 57% off its high

    Fabrinet's new proxy shows a sixth straight record year, a $13.6 million CEO pay package at 1,317 times median employee pay, and just $5.2 million of buybacks. Shareholders reading it are holding a stock 57% below its high, ahead of November 2 earnings and a December 10 say-on-pay vote.

    Chips

    Why Wall Street Got the Ultra Clean Sell-Off Backward

    Ultra Clean fell 15% when Lam Research warned of supply bottlenecks, creating an inverted sell-off in the subsystem maker that builds the bottlenecked parts.

    Chips

    Nvidia backed its own AI customers with more than $170 billion; 81% run GPUs at half capacity

    The Information counts more than $170 billion of Nvidia commitments behind its own customers, Huang says only working capital is missing, and 81% of production AI operators run their GPUs at half capacity. The market spent Thursday pricing who pays.

    Chips

    United Microelectronics CFO's stake fell 28.4% in September; insiders sold $526 million and bought nothing

    The foundry's Form 6-K, filed October 23, 2026, shows chief financial officer Chitung Liu's stake fell 28.4% in September, inside a twelve-month stretch where insiders sold $526.4 million and bought nothing. On October 28 the market finds out whether the AI-power story can carry a multiple already 52% above its own five-year median.

    Get the newsletter

    The day's AI and market news, in your inbox every weekday.