アマゾン、意思決定モデルを無償公開 エージェントで最も安い呼び出しは課金メーターの外へ

AWSは今週、意思決定モデル「Strands Decider 2B」を無償でリリースした。同じ週には、OpenAIが自社の意思決定モデルをプレビュー公開し、タイプセーフ(TypeSafe)の資金調達交渉の報道も浮上した。エージェントのループで最も頻繁に呼ばれる処理に、定価ゼロの値札が付いたことになる。

原文を読む

In this storyOpenAIAMZN
Vincent JiangVincent Jiang · 3 min read
Share
木製の台の上に置かれた、冷却ファン3基を備えたギガバイト(Gigabyte)製GeForce RTX 3090グラフィックスカード。
1 / 6Slide 1 of 6
ギガバイト製GeForce RTX 3090。AWSが無償の意思決定モデル「Strands Decider 2B」のベンチマークに使ったコンシューマー向けGPUで、1呼び出しあたりの中央値は106ミリ秒だった。

自作クローンがアマゾンの無償製品に

AWSのディスティングイッシュト・エンジニア、マーク・ブルッカー氏は、タイプセーフの意思決定モデル「ジェヴ(Jev)」を見て、自分でも作ってみた12。この自作モデルは、同サイズ帯のモデルを対象とするJevbenchランキングで一時首位に立った1。そこでアマゾンはこれを磨き上げ、10月1日に「Strands Decider 2B」として公開した。ベースはQwen3.5-2B、パラメータは約20億。Apache 2.0ライセンスのオープンソースで、ホスト型APIも呼び出しごとの課金もない2。エージェントの状態を読み、スコアを付けた選択肢と信頼度の数値を返す12。

エージェントの頻出ステップ、課金メーターの外へ

このモデルが担おうとするのは、頻出のステップだ。このリクエストをどこへ振るか、どのツールを選ぶか、そのアクションを妥当と見るか——そうした処理である2。AWSは同モデルの以前のチェックポイント「version 18」について、ローカル環境のRTX 3090で1判断あたり中央値106ミリ秒と測定した。公開版そのもののレイテンシーは公表されていない2。

9月15日に登場したジェヴは、入力が100万トークンあたり0.042ドルで、出力トークンは無料という料金設定だ。これに対し、タイプセーフがLLM向けに示す入力価格帯は0.20~10ドルとなっている3。あるハッカソンでのテストでは、エージェントの実行中にすべてのアクションを確認するコストは、ジェヴで2.94ドル、フロンティアモデルで372ドルだった4。その用途のためにトークン単位の価格表が作られることはなかった。

入力100万トークン:フロンティア最高で10ドル、ジェヴは4セント、AWSは無償

$0/M$2/M$4/M$6/M$8/M$10/MフロンティアLLMの入力$10/M最安LLMの入力$0.2/Mタイプセーフのジェヴ$0.04/MStrands Decider 2Bfree値札のみ。計算資源は利用者の持ち込み
Data
Value
フロンティアLLMの入力$10/M
最安LLMの入力$0.2/M
タイプセーフのジェヴ$0.04/M
Strands Decider 2Bfree
入力100万トークンあたりの定価またはAPI価格。LLMのバーはタイプセーフが公開するフロンティアモデルの入力価格帯、ジェヴの数値は同社の発表時価格を示す。Strands Decider 2BはApache 2.0ライセンスによる無償ダウンロードで呼び出しごとの課金もなく、AWSは運用コストの推計を公表していない。出典:タイプセーフ発表記事[3]、VentureBeat[2]。3,2

無償の重みも、誰かのGPUを回し続ける

アマゾン自身の比較表では、このモデルは同規模の公開モデルの中で2位につき、首位はMapikaの意思決定モデル。完全な学習レシピを公開しているモデルに限れば1位となる。ジェヴ自体は表に入っておらず、直接対決は存在しない2。AWSは1リクエスト当たりの運用コストの推計を示しておらず、ジェヴの重みを非公開にしているタイプセーフは入力10億トークン当たり42ドルを課す23。無償なのは値札であって、コストではない。

1000ドルでクローン、それでも成績表はジェヴが上

OpenAIは9月29日の開発者イベント「DevDay」でDecisions APIをプレビュー公開した。サム・アルトマン氏は、同社のLunaモデルをあらかじめ定義した選択肢に絞り込むことで極限の速度を可能にすると約束した4。ジェヴの登場から2週間で数十個のクローンが世に出て12、ブルッカー氏はその構築費を「数百ドルか数千ドルのレベル」だとみる1。だが成績表は、いまだにそれに異を唱える。ジェヴ1.13は「スタークラフト」の25回中21勝、オープンソースのOpenJevは0勝9敗。ジェヴの検証済みの勝利で最も安かったのは0.016ドルだ6。

速くて安いのは簡単、堀はデータ

「本当に速くて安いだけでよければ、サイコロを使えばいい」。タイプセーフのCEO(最高経営責任者)、ディオゴ・アルメイダ氏はそう話す。「難しいのは知能のほうだ」。同氏が堀(moat)とみなすのは、モデルの背後にある合成データだ4。現在のクローンについて同氏は「むしろ、かっこいいアーキテクチャーを実装したがっている機械学習畑の人間に見える」と評す1。

マネーは今もその堀を巡って言い争っている。同社は9月15日、評価額2億ドルで4000万ドルのシード調達を決めていた5。現在、The Informationが報じた交渉は調達額10億ドル以上、評価額は100億ドルの大台を超える内容で、その水準でまとまればシード時評価額の50倍となる7。手柄の帰属さえ揉めている。調達報道が出た際、Latent Spaceのswyx氏は、YouTubeの動画で同メディアのロゴが出典表示なしに切り取られていたと苦情を漏らし、「pls support smol creators」(小さなクリエイターも応援して)と書き添えた89。

無償の意思決定は破壊ではなく需要

ジェヴの名は経済学者ウィリアム・スタンリー・ジェヴォンズにちなむ。タイプセーフは「知能のコストが1桁下がるたびに、ユースケースは数桁増える」との自説に基づいてこの名を付けた3。この見立てが正しければ、アマゾンの無償の意思決定モデルは計算資源を減らすどころか、より多く売ることになる。誰かが今もレンタル料を払い続けるハードウェアの上で、より多くのエージェントがより多くの意思決定を下すようになるからだ。

答えは2つの日付で分かる。1つはOpenAIがDecisions APIに付ける価格だ。同APIは依然として限定プレビュー段階で、料金は公表されていない4。もう1つは、タイプセーフの増資が評価額100億ドル超でまとまるかどうか7。意思決定1回がトークン並みに値付けされるなら、課金メーターは生き続ける。ほぼゼロの価格が付けば、その賭けの正しさが裏付けられる。

Deepdive

AI-generated from this story and its cited sources. Not investment advice.

Reader comments

0 comments

    Sign up

    Get your curated digest

    After email confirmation, you will receive a daily digest of the most relevant news that matter to your portfolio