Amazons Trainium kann KI-Modelle jetzt trainieren, nicht nur ausführen – und stellt Nvidia vor den Zahlen am 29. Oktober auf die Probe
Ein Praxistest von SemiAnalysis zeigt: Trainium2 und Trainium3 beherrschen das Forschungs-Training inzwischen in nativem PyTorch – veröffentlicht am selben Tag, an dem Andy Jassy die Inferenz für zehnmal zu teuer erklärte und Amazons Chips als Lösung anpries. Bewegt hat sich die Softwareschranke, die Forscher bislang bei Nvidia hielt; Amazon legt am 29. Oktober vor.
Richard Tang · 4 min read
Trainium, Amazons−0.72% — Amazons, down 0.72 percent today hauseigener KI-Chip, hat die Linie überschritten, die ihn bislang definierte: Er kann Modelle inzwischen trainieren, nicht nur ausführen. SemiAnalysis, ein unabhängiges Forschungshaus für Chips, das soeben Wochen an Trainium3-Racks verbracht hat, meldet, dass PyTorch, das Framework, das die meisten Forscher ohnehin nutzen, inzwischen nativ läuft: Der Code wird im Eager-Modus Zeile für Zeile ausgeführt, so wie Forscher es erwarten. Das Beschleunigungswerkzeug torch.compile funktioniert. Und praktisch die einzige Änderung besteht darin, `.to(\"cuda\")` durch `.to(\"neuron\")` zu ersetzen 1.
Auch die Grenzen benennt der Bericht unmissverständlich: Der Stack ist laut SemiAnalysis „noch nicht annähernd so ausgereift wie das CUDA-Ökosystem“, Nvidias−0.54% — Nvidias, down 0.54 percent today Softwareschicht; das größte getestete Modell hatte 32 Milliarden Parameter – Forschungsmaßstab, kein Trainingslauf auf Frontier-Niveau 1.
Amazon-Chef Andy Jassy widmete sich am selben Tag der Nachfrageseite. Gegenüber dem Wagniskapitalgeber a16z erklärte er, die Inferenz – die Rechenleistung, die bei jeder Antwort eines Modells bezahlt werden muss – sei noch immer um eine Größenordnung zu teuer; Trainium liefere ein um 30 bis 40 Prozent besseres Preis-Leistungs-Verhältnis als vergleichbare Prozessoren 2. Nvidias Trainingspreise haben bislang auf genau jener Software-Reibung geruht, die SemiAnalysis soeben gemessen hat. Diese Reibung bröckelt.
Der Burggraben hieß Wechselkosten
Anthropic$350B — Anthropic, private, latest valuation $350B, das KI-Labor hinter Claude und Trainiums Ankerkunde, betreibt auf Trainium2 und Trainium3 bereits Inferenz im Produktivbetrieb und Rollouts für Reinforcement Learning 1. Ausgenommen blieb bislang das Forschungs-Training, denn Forscher bauen Modellarchitekturen täglich um – und der alte Trainium-Weg lief über einen Graph-Compiler im Stil von XLA, der jeden, der von CUDA kam, die Trainingsschleife neu lernen ließ 1.
SemiAnalysis trainierte das Modell mit offenen Gewichten Qwen3-32B, bearbeitete dessen Architektur-Code und setzte das Rezept gpt-oss, OpenAIs$1.18T — OpenAIs, private, latest valuation $1.18T Trainings-Setup mit offenen Gewichten, ohne jede Anpassung ein 1. Das Ergebnis: 14.156 Token pro Sekunde bei 30,47 Prozent MFU im kompilierten Modus, gegenüber 11.099 Token bei 23,89 Prozent im Eager-Modus – ein Zuwachs um den Faktor 1,28 1. MFU misst, wie viel von der Spitzenrechenleistung eines Chips ein Lauf tatsächlich nutzt.
Dahinter stehen bis zu 80.000 physische Rechenkerne für automatisierte Qualitätskontrolle: Sie gleichen die Numerik der Top 100.000 Modelle auf Hugging Face, dem Repository, in dem Forscher Code teilen, mit Nvidia-Baselines ab 1. AWS hat außerdem den Ingenieur verpflichtet, der bei Google das Vorhaben leitete, PyTorch nativ auf den TPU-Chips des Konzerns laufen zu lassen – nun soll er hier dasselbe Manöver wiederholen 1. Jeder bestandene Test bedeutet ein Modell mehr, das Forscher ohne Umschreiben des Codes übertragen können.
Die Beweise für die Marge kamen zuerst
Das Geld war schneller als der Test. AWS wies im zweiten Quartal 2026 eine operative Marge von 39,4 Prozent aus, obwohl die Kapitalausgaben stiegen 3. Der vertraglich gebundene Auftragsbestand von AWS liegt bei 496 Milliarden Dollar; die Kapazitäten sind für 2026 praktisch ausverkauft und für 2027 weitgehend vergeben 3.
Die offengelegten künftigen Trainium-Verpflichtungen von Anthropic und OpenAI übersteigen 225 Milliarden Dollar 2. Anfang dieses Monats hatten wir beschrieben, wie Amazon das Risiko an Nvidia-Chips im Wert von 8 Milliarden Dollar verkauft; die fehlende Hälfte dieses Geschäfts war der Nachweis, dass Trainium Aufträge auf eigener Software gewinnen kann – und dieser Nachweis wurde diese Woche öffentlich 2.
Amazons quartalsweise Kapitalausgaben haben sich in drei Jahren fast verfünffacht
Data
| Kapitalausgaben | |
|---|---|
| Q3/23 | $11.3B |
| Q4/23 | $13.35B |
| Q1/24 | $13.94B |
| Q2/24 | $16.39B |
| Q3/24 | $21.28B |
| Q4/24 | $26.05B |
| Q1/25 | $24.26B |
| Q2/25 | $31.37B |
| Q3/25 | $34.23B |
| Q4/25 | $38.47B |
| Q1/26 | $43.23B |
| Q2/26 | $53.08B |
Der Flaschenhals wandert in den Compiler
Was Trainium heute ausbremst, ist der Feinschliff der Software – und Amazon investiert, um diese Lücke zu schließen. Die Kompilierung des Rezepts gpt-oss dauerte rund 27 Minuten – für Forscher, die im Stundentakt iterieren, ist das tote Zeit. AWS zufolge zielt ein neu gebauter Compiler auf eine bis zu hundertfache Verkürzung dieser Wartezeit ab 1.
Der Konzern steht zudem kurz vor einer 7-Milliarden-Dollar-Übernahme von Decart – ein israelisches Start-up, dessen Optimierungs-Stack die monatelange Portierung von CUDA auf Wochen staucht 5. Auch Anthropic sichert sich ab und baut ein eigenes Chip-Team auf; Serien-Chips dürfte es aber frühestens 2028 geben 6. Für Ingenieure driftet die wertvollste Fähigkeit damit weg vom Schreiben von CUDA-Code – hin dazu, Modelle auf dem jeweils günstigsten Silizium gut laufen zu lassen.
Am 29. Oktober wird der Trade neu bepreist
Die Fakten reichen bis zum Trainingstest und zur AWS-Marge. Alles Weitere ist Projektion: Billigeres Training, gestapelt auf billigere Inferenz, könnte das öffnen, was Jassy die Mitte der Hantel nennt – die alltägliche Unternehmenssoftware, von der er erwartet, dass sie zur größten Nachfragequelle der KI wird 2.
Amazon legt am 29. Oktober die Zahlen für das dritte Quartal vor. Händler auf dem Prognosemarkt Kalshi halten es für 96-prozentig wahrscheinlich, dass Trainium die Telefonkonferenz dominieren wird 2. Für Amazon lautet die Frage, ob Anleger die eigenen Chips nicht länger als Nebengeschäft betrachten. Für Nvidia lautet sie, ob das Training, das ertragreichste Geschäft des Konzerns, künftig an einem Chip gemessen wird, zu dem Forscher ohne Umschreiben ihres Codes wechseln können.
Get Chips by email, free
How AI demand is reshaping chipmakers, memory and the fabs behind them. In our daily email, every weekday.






