Amazon verschenkt sein Entscheidungsmodell – und die billigsten Aufrufe der Agenten verschwinden vom Zähler
AWS hat Strands Decider 2B in dieser Woche kostenlos veröffentlicht – in derselben Woche, in der OpenAI ein eigenes Entscheidungsmodell vorstellte und bekannt wurde, dass TypeSafe über eine neue Finanzierungsrunde verhandelt. Die billigsten Aufrufe im Agenten-Loop haben ab sofort einen Listenpreis von null.
Vincent Jiang · 3 min read
Aus dem selbstgebauten Klon wurde Amazons Gratis-Produkt
Marc Brooker, Distinguished Engineer bei AWS, sah Jev von TypeSafe und baute dazu eine eigene Variante 12. Das selbstgebaute Entscheidungsmodell führte kurzzeitig die Jevbench-Rangliste der Modelle seiner Größenklasse an 1. Also brachte Amazon den Code in Form und veröffentlichte ihn am 1. Oktober als Strands Decider 2B: rund zwei Milliarden Parameter auf Basis von Qwen3.5-2B, unter Apache-2.0 offen verfügbar, ohne gehostete API und ohne Abrechnung pro Aufruf 2. Das Modell liest den Zustand eines Agenten und gibt eine bewertete Entscheidung nebst Konfidenzwert zurück 12.
Die häufigsten Schritte des Agenten verschwinden vom Zähler
Gefragt sind die Schritte, die häufig anfallen: eine Anfrage routen, ein Tool auswählen, eine Aktion prüfen 2. Einen früheren Checkpoint des Modells, Version 18, maß AWS auf einer lokalen RTX 3090 im Median mit 106 Millisekunden pro Entscheidung; die Latenz der veröffentlichten Version selbst bleibt unveröffentlicht 2.
Jev, am 15. September gestartet, berechnet 0,042 Dollar pro Million Eingabe-Tokens, Ausgabe-Tokens sind gratis – zum Vergleich listet TypeSafe für LLMs Eingabepreise von 0,20 bis 10 Dollar 3. Bei einem Hackathon-Test kostete die Prüfung jeder einzelnen Aktion in einem Agenten-Durchlauf auf Jev 2,94 Dollar, auf einem Frontier-Modell 372 Dollar 4. Eine Preisliste pro Token hat dafür niemand angelegt.
Eine Million Eingabe-Tokens: 10 Dollar am oberen Ende der Frontier-Modelle, 4 Cent auf Jev, gratis bei AWS
Data
| Value | |
|---|---|
| Frontier-LLM, Eingabe | $10/M |
| Günstigstes LLM, Eingabe | $0.2/M |
| TypeSafe Jev | $0.04/M |
| Strands Decider 2B | free |
Kostenlose Gewichte verheizen trotzdem jemandes GPU
In Amazons eigenen Diagrammen belegt das Modell unter den öffentlichen Modellen seiner Größe Platz zwei, hinter Mapikas Entscheidungsmodell. An die Spitze kommt es nur unter den Modellen, die ein vollständiges Trainingsrezept veröffentlichen. Jev selbst fehlt, einen direkten Vergleich gibt es also nicht 2. Eine Schätzung der Betriebskosten pro Anfrage hat AWS nicht geliefert, und TypeSafe, das die Gewichte von Jev unter Verschluss hält, berechnet 42 Dollar für eine Milliarde Eingabe-Tokens 23. Gratis ist der Listenpreis, nicht der Preis.
Ein Klon für tausend Dollar – die Rangliste favorisiert weiterhin Jev
OpenAI hat auf dem DevDay am 29. September eine Vorschau seiner Decisions API gezeigt. Sam Altman verspricht extremes Tempo: Das hauseigene Modell Luna wird dafür auf eine vordefinierte Auswahl eingeschränkt 4. Dutzende Klone erschienen in den zwei Wochen nach Jevs Start 12, und Brooker beziffert die Kosten für einen solchen Klon auf „Hunderte oder Tausende Dollar“ 1. Die Rangliste widerspricht bislang: Jev 1.13 hat 21 von 25 StarCraft-Partien gewonnen, das offene OpenJev steht bei 0:9, und Jevs günstigster verifizierter Sieg kostete 0,016 Dollar 6.
Schnell und billig ist einfach – der Burggraben sind die Daten
„Wenn es wirklich schnell und billig sein soll, werfen Sie Würfel“, sagt TypeSafe-Chef Diogo Almeida. „Der schwierige Teil ist die Intelligenz“, und sein Burggraben sind die synthetischen Daten hinter dem Modell 4. Die aktuellen Klone wirkten „eher wie ML-Leute, die eine coole Architektur implementieren wollen“, sagt er 1.
Das Geld streitet weiterhin über diesen Burggraben. Eine Seed-Runde von 40 Millionen Dollar zu einer Bewertung von 200 Millionen Dollar kam am 15. September zustande 5, und die nun von The Information gemeldeten Gespräche laufen auf 1 Milliarde Dollar oder mehr, zu einer Bewertung oberhalb von 10 Milliarden Dollar – das Fünfzigfache der Seed-Bewertung, sollte die Runde in dieser Höhe zustande kommen 7. Selbst die Anerkennung ist strittig: Als die Finanzierungsrunde bekannt wurde, beschwerte sich swyx von Latent Space, ein YouTube-Video habe dessen Logo herausgeschnitten und keine Quellenangabe gemacht – und fügte hinzu: „pls support smol creators“ 89.
Kostenlose Entscheidungen sind Nachfrage, nicht Disruption
Jev trägt den Namen von William Stanley Jevons; dahinter steht TypeSafes These, dass „jede Senkung der Kosten von Intelligenz um eine Größenordnung um Größenordnungen mehr Anwendungsfälle erschließt“ 3. Stimmt die These, verkauft Amazons kostenloses Entscheidungsmodell mehr Rechenleistung, nicht weniger: Mehr Agenten treffen mehr Entscheidungen – auf Hardware, die jemand nach wie vor mietet.
Das verraten zwei Daten. Das eine ist der Preis, den OpenAI für seine Decisions API veröffentlicht – sie steckt noch in einer begrenzten Vorschau, einen veröffentlichten Tarif gibt es nicht 4. Das andere ist die Frage, ob TypeSafes Runde oberhalb von 10 Milliarden Dollar zustande kommt 7. Eine Entscheidung, die wie ein Token abgerechnet wird, hält den Zähler am Laufen; eine Entscheidung, die praktisch nichts kostet, bestätigt die Wette.
Deepdive
AI-generated from this story and its cited sources. Not investment advice.
