Chips

Amazons Trainium kann KI-Modelle jetzt trainieren, nicht nur ausführen – und stellt Nvidia vor den Zahlen am 29. Oktober auf die Probe

Ein Praxistest von SemiAnalysis zeigt: Trainium2 und Trainium3 beherrschen das Forschungs-Training inzwischen in nativem PyTorch – veröffentlicht am selben Tag, an dem Andy Jassy die Inferenz für zehnmal zu teuer erklärte und Amazons Chips als Lösung anpries. Bewegt hat sich die Softwareschranke, die Forscher bislang bei Nvidia hielt; Amazon legt am 29. Oktober vor.

Original lesen

Richard TangRichard Tang · 4 min read
Share
Amazon-Chef Andy Jassy gibt Indiens Premierminister Narendra Modi am 25. Juni 2026 in Neu-Delhi die Hand.
1 / 5Slide 1 of 5
Amazon-Chef Andy Jassy mit Indiens Premierminister Narendra Modi im Juni 2026 in Neu-Delhi. Nach Jassys Angaben liefert Trainium ein um 30 bis 40 Prozent besseres Preis-Leistungs-Verhältnis als vergleichbare Prozessoren.

Trainium, Amazons−0.72% — Amazons, down 0.72 percent today hauseigener KI-Chip, hat die Linie überschritten, die ihn bislang definierte: Er kann Modelle inzwischen trainieren, nicht nur ausführen. SemiAnalysis, ein unabhängiges Forschungshaus für Chips, das soeben Wochen an Trainium3-Racks verbracht hat, meldet, dass PyTorch, das Framework, das die meisten Forscher ohnehin nutzen, inzwischen nativ läuft: Der Code wird im Eager-Modus Zeile für Zeile ausgeführt, so wie Forscher es erwarten. Das Beschleunigungswerkzeug torch.compile funktioniert. Und praktisch die einzige Änderung besteht darin, `.to(\"cuda\")` durch `.to(\"neuron\")` zu ersetzen 1.

Auch die Grenzen benennt der Bericht unmissverständlich: Der Stack ist laut SemiAnalysis „noch nicht annähernd so ausgereift wie das CUDA-Ökosystem“, Nvidias−0.54% — Nvidias, down 0.54 percent today Softwareschicht; das größte getestete Modell hatte 32 Milliarden Parameter – Forschungsmaßstab, kein Trainingslauf auf Frontier-Niveau 1.

Amazon-Chef Andy Jassy widmete sich am selben Tag der Nachfrageseite. Gegenüber dem Wagniskapitalgeber a16z erklärte er, die Inferenz – die Rechenleistung, die bei jeder Antwort eines Modells bezahlt werden muss – sei noch immer um eine Größenordnung zu teuer; Trainium liefere ein um 30 bis 40 Prozent besseres Preis-Leistungs-Verhältnis als vergleichbare Prozessoren 2. Nvidias Trainingspreise haben bislang auf genau jener Software-Reibung geruht, die SemiAnalysis soeben gemessen hat. Diese Reibung bröckelt.

Der Burggraben hieß Wechselkosten

Anthropic$350B — Anthropic, private, latest valuation $350B, das KI-Labor hinter Claude und Trainiums Ankerkunde, betreibt auf Trainium2 und Trainium3 bereits Inferenz im Produktivbetrieb und Rollouts für Reinforcement Learning 1. Ausgenommen blieb bislang das Forschungs-Training, denn Forscher bauen Modellarchitekturen täglich um – und der alte Trainium-Weg lief über einen Graph-Compiler im Stil von XLA, der jeden, der von CUDA kam, die Trainingsschleife neu lernen ließ 1.

SemiAnalysis trainierte das Modell mit offenen Gewichten Qwen3-32B, bearbeitete dessen Architektur-Code und setzte das Rezept gpt-oss, OpenAIs$1.18T — OpenAIs, private, latest valuation $1.18T Trainings-Setup mit offenen Gewichten, ohne jede Anpassung ein 1. Das Ergebnis: 14.156 Token pro Sekunde bei 30,47 Prozent MFU im kompilierten Modus, gegenüber 11.099 Token bei 23,89 Prozent im Eager-Modus – ein Zuwachs um den Faktor 1,28 1. MFU misst, wie viel von der Spitzenrechenleistung eines Chips ein Lauf tatsächlich nutzt.

Dahinter stehen bis zu 80.000 physische Rechenkerne für automatisierte Qualitätskontrolle: Sie gleichen die Numerik der Top 100.000 Modelle auf Hugging Face, dem Repository, in dem Forscher Code teilen, mit Nvidia-Baselines ab 1. AWS hat außerdem den Ingenieur verpflichtet, der bei Google das Vorhaben leitete, PyTorch nativ auf den TPU-Chips des Konzerns laufen zu lassen – nun soll er hier dasselbe Manöver wiederholen 1. Jeder bestandene Test bedeutet ein Modell mehr, das Forscher ohne Umschreiben des Codes übertragen können.

Die Beweise für die Marge kamen zuerst

Das Geld war schneller als der Test. AWS wies im zweiten Quartal 2026 eine operative Marge von 39,4 Prozent aus, obwohl die Kapitalausgaben stiegen 3. Der vertraglich gebundene Auftragsbestand von AWS liegt bei 496 Milliarden Dollar; die Kapazitäten sind für 2026 praktisch ausverkauft und für 2027 weitgehend vergeben 3.

Die offengelegten künftigen Trainium-Verpflichtungen von Anthropic und OpenAI übersteigen 225 Milliarden Dollar 2. Anfang dieses Monats hatten wir beschrieben, wie Amazon das Risiko an Nvidia-Chips im Wert von 8 Milliarden Dollar verkauft; die fehlende Hälfte dieses Geschäfts war der Nachweis, dass Trainium Aufträge auf eigener Software gewinnen kann – und dieser Nachweis wurde diese Woche öffentlich 2.

Amazons quartalsweise Kapitalausgaben haben sich in drei Jahren fast verfünffacht

$0B$20B$40B$60BQ4/23Q2/24Q4/24Q2/25Q4/25Q2/26Capex-Plan 2026 auf 220 Mrd.Dollar angehoben
Data
Kapitalausgaben
Q3/23$11.3B
Q4/23$13.35B
Q1/24$13.94B
Q2/24$16.39B
Q3/24$21.28B
Q4/24$26.05B
Q1/25$24.26B
Q2/25$31.37B
Q3/25$34.23B
Q4/25$38.47B
Q1/26$43.23B
Q2/26$53.08B
Quartalsweise Kapitalausgaben laut Amazons Einreichungen bei der US-Börsenaufsicht SEC; der Plan von rund 220 Milliarden Dollar für das Gesamtjahr 2026 ist eine Unternehmensprognose und keine im Diagramm dargestellte Zahl.3,4

Der Flaschenhals wandert in den Compiler

Was Trainium heute ausbremst, ist der Feinschliff der Software – und Amazon investiert, um diese Lücke zu schließen. Die Kompilierung des Rezepts gpt-oss dauerte rund 27 Minuten – für Forscher, die im Stundentakt iterieren, ist das tote Zeit. AWS zufolge zielt ein neu gebauter Compiler auf eine bis zu hundertfache Verkürzung dieser Wartezeit ab 1.

Der Konzern steht zudem kurz vor einer 7-Milliarden-Dollar-Übernahme von Decart – ein israelisches Start-up, dessen Optimierungs-Stack die monatelange Portierung von CUDA auf Wochen staucht 5. Auch Anthropic sichert sich ab und baut ein eigenes Chip-Team auf; Serien-Chips dürfte es aber frühestens 2028 geben 6. Für Ingenieure driftet die wertvollste Fähigkeit damit weg vom Schreiben von CUDA-Code – hin dazu, Modelle auf dem jeweils günstigsten Silizium gut laufen zu lassen.

Am 29. Oktober wird der Trade neu bepreist

Die Fakten reichen bis zum Trainingstest und zur AWS-Marge. Alles Weitere ist Projektion: Billigeres Training, gestapelt auf billigere Inferenz, könnte das öffnen, was Jassy die Mitte der Hantel nennt – die alltägliche Unternehmenssoftware, von der er erwartet, dass sie zur größten Nachfragequelle der KI wird 2.

Amazon legt am 29. Oktober die Zahlen für das dritte Quartal vor. Händler auf dem Prognosemarkt Kalshi halten es für 96-prozentig wahrscheinlich, dass Trainium die Telefonkonferenz dominieren wird 2. Für Amazon lautet die Frage, ob Anleger die eigenen Chips nicht länger als Nebengeschäft betrachten. Für Nvidia lautet sie, ob das Training, das ertragreichste Geschäft des Konzerns, künftig an einem Chip gemessen wird, zu dem Forscher ohne Umschreiben ihres Codes wechseln können.

Get Chips by email, free

How AI demand is reshaping chipmakers, memory and the fabs behind them. In our daily email, every weekday.

Loading NVDA…

Reader comments

0 comments

    Chips

    Bank of America doubles Marvell's credit line to $3 billion as AI shorts count $6 billion of paper profits

    An 8-K filed October 23 shows a Bank of America-led syndicate committing five years of undrawn credit to Marvell at 0.875–1.5% over SOFR, double the old line and expandable to $5 billion, with a covenant drafted for a $500 million-plus deal. The AI financing-freeze short case now has to explain that page.

    Chips

    Murata turns away customers with record JPY 673.9 billion orders; October 30 capex decides

    Murata has record orders, a plant filling six years early, and customers it must decline. The capex number due with October 30 results decides whether that rationing lasts into 2029, and the ceramic powder, not the stock price, is the ceiling until 2028.

    Chips

    Fabrinet's CEO drew $13.6 million, 1,317 times its median worker, as the stock sits 57% off its high

    Fabrinet's new proxy shows a sixth straight record year, a $13.6 million CEO pay package at 1,317 times median employee pay, and just $5.2 million of buybacks. Shareholders reading it are holding a stock 57% below its high, ahead of November 2 earnings and a December 10 say-on-pay vote.

    Chips

    Why Wall Street Got the Ultra Clean Sell-Off Backward

    Ultra Clean fell 15% when Lam Research warned of supply bottlenecks, creating an inverted sell-off in the subsystem maker that builds the bottlenecked parts.

    Chips

    Nvidia backed its own AI customers with more than $170 billion; 81% run GPUs at half capacity

    The Information counts more than $170 billion of Nvidia commitments behind its own customers, Huang says only working capital is missing, and 81% of production AI operators run their GPUs at half capacity. The market spent Thursday pricing who pays.

    Chips

    United Microelectronics CFO's stake fell 28.4% in September; insiders sold $526 million and bought nothing

    The foundry's Form 6-K, filed October 23, 2026, shows chief financial officer Chitung Liu's stake fell 28.4% in September, inside a twelve-month stretch where insiders sold $526.4 million and bought nothing. On October 28 the market finds out whether the AI-power story can carry a multiple already 52% above its own five-year median.

    Get the newsletter

    The day's AI and market news, in your inbox every weekday.