Amazon offre son modèle de décision, et les appels les moins chers de l'agent sortent du compteur

AWS a publié gratuitement Strands Decider 2B cette semaine — la même où OpenAI a présenté en avant-première son propre modèle de décision et où ont fait surface les discussions autour d'une levée de fonds de TypeSafe. Le prix étiqueté des appels les moins chers de la boucle d'un agent vient de tomber à zéro.

Lire l’original

In this storyAMZNOpenAI
Vincent JiangVincent Jiang · 3 min read
Share
Une carte graphique Gigabyte GeForce RTX 3090 avec trois ventilateurs, posée sur une surface en bois.
1 / 6Slide 1 of 6
Une Gigabyte GeForce RTX 3090, la carte grand public qu'AWS a utilisée pour évaluer son modèle de décision gratuit Strands Decider 2B, mesuré à 106 millisecondes par appel en médiane.

Un clone « fait maison » devenu produit gratuit d'Amazon

Marc Brooker, distinguished engineer chez AWS, a vu le Jev de TypeSafe et s'en est construit sa propre version 12. Ce modèle de décision bricolé a brièvement pris la tête du classement Jevbench des modèles de sa taille 1. Amazon l'a remis au propre et publié le 1er octobre sous le nom de Strands Decider 2B : quelque 2 milliards de paramètres sur une base Qwen3.5-2B, en open source sous licence Apache 2.0, sans API hébergée ni facturation à l'appel 2. Il lit l'état d'un agent et renvoie un choix noté, accompagné d'un indice de confiance 12.

Les étapes les plus fréquentes de l'agent sortent du compteur

Les étapes qu'il vise sont les plus fréquentes : router cette requête, sélectionner tel outil, passer en revue telle action 2. AWS a mesuré un checkpoint antérieur du modèle, la version 18, à 106 millisecondes par décision en médiane sur une RTX 3090 locale ; la latence de la version publiée, elle, n'est pas rendue publique 2.

Lancé le 15 septembre, Jev facture les tokens d'entrée à 0,042 dollar par million, les tokens de sortie étant gratuits, là où TypeSafe affiche pour les LLM une fourchette d'entrée de 0,20 à 10 dollars 3. Lors d'un test en hackathon, passer en revue chaque action d'une exécution d'agent a coûté 2,94 dollars sur Jev contre 372 dollars sur un modèle de pointe 4. Aucune grille tarifaire par token n'a été dressée pour cela.

Un million de tokens d'entrée : 10 dollars pour un modèle de pointe, 4 cents sur Jev, gratuit chez AWS

$0/M$2/M$4/M$6/M$8/M$10/MEntrée LLM de pointe$10/MEntrée LLM la moins chère$0.2/MJev de TypeSafe$0.04/MStrands Decider 2Bfreeprix étiqueté seulement ; la puissance de calcul est à votrecharge
Data
Value
Entrée LLM de pointe$10/M
Entrée LLM la moins chère$0.2/M
Jev de TypeSafe$0.04/M
Strands Decider 2Bfree
Prix étiqueté ou tarif d'API pour un million de tokens d'entrée. Les barres « LLM » reprennent la fourchette d'entrée publiée par TypeSafe pour les modèles de pointe ; le chiffre du Jev est son prix de lancement. Strands Decider 2B est un téléchargement gratuit sous licence Apache 2.0, sans facturation à l'appel, et AWS n'a publié aucune estimation de coût d'exploitation. Sources : billet de lancement de TypeSafe [3] ; VentureBeat [2].3,2

Des poids gratuits qui font toujours chauffer le GPU de quelqu'un

Dans les graphiques d'Amazon lui-même, le modèle arrive deuxième des modèles publics de sa taille, derrière le modèle de décision de Mapika, et il ne prend la première place que parmi ceux qui publient une recette d'entraînement complète ; Jev en est absent, aucune comparaison directe n'est donc possible 2. AWS n'a fourni aucune estimation de coût d'exploitation par requête, et TypeSafe, qui garde fermés les poids de Jev, facture 42 dollars le milliard de tokens d'entrée 23. Gratuit est le prix étiqueté, pas le coût.

Mille dollars pour construire un clone, mais le classement donne toujours raison à Jev

OpenAI a dévoilé en avant-première sa Decisions API lors de sa DevDay, le 29 septembre ; Sam Altman y promettait une vitesse extrême en cantonnant le modèle Luna du laboratoire à un choix prédéfini 4. Des dizaines de clones ont vu le jour dans les deux semaines suivant Jev 12, et Brooker chiffre le coût de construction d'un clone à « des centaines ou des milliers de dollars » 1. Le classement dit pourtant autre chose : Jev 1.13 a remporté 21 des 25 parties de StarCraft, l'OpenJev open source affiche 0 victoire pour 9 défaites, et la victoire vérifiée la moins chère de Jev a coûté 0,016 dollar 6.

Rapide et pas cher, c'est facile ; le fossé, ce sont les données

« Si vous voulez que ce soit vraiment rapide et pas cher, utilisez des dés », lance le PDG de TypeSafe, Diogo Almeida. « La partie difficile, c'est l'intelligence », et son fossé, ce sont les données synthétiques à l'origine du modèle 4. Les clones actuels « ressemblent surtout à des gens du machine learning qui veulent mettre en œuvre une architecture sympa », juge-t-il 1.

L'argent, lui, débat encore de ce fossé. Un tour d'amorçage de 40 millions de dollars, à une valorisation de 200 millions, s'est bouclé le 15 septembre 5, et les négociations que révèle aujourd'hui The Information visent 1 milliard de dollars ou plus au-dessus de la barre des 10 milliards, soit cinquante fois la valorisation de l'amorçage si l'opération se conclut à ce niveau 7. Même la paternité est disputée : quand la levée de fonds a filtré, swyx, de Latent Space, s'est plaint qu'une vidéo YouTube ait rogné son logo sans citer la source, en ajoutant : « pls support smol creators » 89.

Décisions gratuites : de la demande, pas de disruption

Jev doit son nom à William Stanley Jevons, en écho à la thèse de TypeSafe : « chaque baisse d'un ordre de grandeur du coût de l'intelligence débloque des ordres de grandeur de cas d'usage supplémentaires » 3. Si cette thèse tient, le modèle de décision gratuit d'Amazon vend plus de puissance de calcul, pas moins : davantage d'agents prenant davantage de décisions, sur du matériel que quelqu'un continue de louer.

Deux dates serviront de révélateur. La première : le tarif qu'OpenAI dévoilera pour sa Decisions API, encore en préversion limitée et sans prix publié 4. La seconde : savoir si la levée de fonds de TypeSafe se bouclera au-dessus de la barre des 10 milliards de dollars 7. Une décision facturée comme un token fait tourner le compteur ; une décision quasi gratuite valide le pari.

Deepdive

AI-generated from this story and its cited sources. Not investment advice.

Reader comments

0 comments

    Sign up

    Get your curated digest

    After email confirmation, you will receive a daily digest of the most relevant news that matter to your portfolio