Amazon раздает решатель бесплатно — самые дешевые вызовы агента больше не идут по счетчику

На этой неделе AWS бесплатно выпустила Strands Decider 2B; на той же неделе OpenAI показала превью собственной модели принятия решений, а в СМИ просочились сведения о переговорах TypeSafe о новом раунде финансирования. У самых дешевых вызовов в цикле агента теперь ценник — ноль.

Читать оригинал

In this storyAMZNOpenAI
Vincent JiangVincent Jiang · 3 min read
Share
Видеокарта Gigabyte GeForce RTX 3090 с тремя вентиляторами охлаждения на деревянной поверхности.
1 / 6Slide 1 of 6
Gigabyte GeForce RTX 3090 — потребительский GPU, на котором AWS замеряла свою бесплатную модель принятия решений Strands Decider 2B: медианные 106 мс на вызов.

Самодельный клон стал бесплатным продуктом Amazon

Марк Брукер, distinguished engineer AWS, увидел модель Jev компании TypeSafe — и собрал собственную реализацию 12. Самодельный решатель (decider) ненадолго возглавил рейтинг Jevbench среди моделей своего размера 1, после чего Amazon довела его до ума и 1 октября выпустила под именем Strands Decider 2B: около 2 млрд параметров на базе Qwen3.5-2B, открытая под Apache 2.0, без облачного API и без платы за вызовы 2. Модель считывает состояние агента и возвращает вариант решения с оценкой и показателем уверенности 12.

Частые шаги агента уходят со счетчика

Решатель берет на себя именно частые шаги: маршрутизировать запрос, выбрать инструмент, проверить действие 2. Более ранний чекпоинт модели — версию 18 — AWS тестировала на локальной RTX 3090 и получила медианные 106 мс на решение; задержка самой выпущенной сборки не опубликована 2.

Jev, запущенная 15 сентября, берет $0,042 за 1 млн входных токенов, а выходные токены отдает бесплатно, тогда как для LLM TypeSafe указывает входные цены в диапазоне от $0,20 до $10 3. В одном хакатонном тесте проверка каждого действия агента за прогон обошлась в $2,94 на Jev против $372 на frontier-модели 4. Прайс за токены под это никто не составлял.

Миллион входных токенов: $10 на самом верху frontier-сегмента, 4 цента на Jev, бесплатно от AWS

$0/M$2/M$4/M$6/M$8/M$10/MВход: frontier-LLM$10/MВход: самые дешевые LLM$0.2/MJev (TypeSafe)$0.04/MStrands Decider 2Bfreeтолько ценник; вычисления — за ваш счет
Data
Value
Вход: frontier-LLM$10/M
Вход: самые дешевые LLM$0.2/M
Jev (TypeSafe)$0.04/M
Strands Decider 2Bfree
Ценник или цена API за 1 млн входных токенов. Столбцы LLM — опубликованный TypeSafe диапазон входных цен для frontier-моделей; показатель Jev — стартовая цена, объявленная TypeSafe. Strands Decider 2B — бесплатная загрузка под Apache 2.0 без платы за вызовы; оценку эксплуатационных расходов AWS не публиковала. Источники: анонс TypeSafe [3]; VentureBeat [2].3,2

Бесплатные веса модели все равно сжигают чей-то GPU

На собственных графиках Amazon модель занимает второе место среди публичных моделей ее размера — позади решателя Mapika — и первое лишь среди тех, кто публикует полный рецепт обучения; самого Jev там нет, так что прямого сравнения не существует 2. AWS оценки эксплуатационных расходов на запрос не публиковала, а TypeSafe, которая держит веса Jev закрытыми, берет $42 за 1 млрд входных токенов 23. «Бесплатно» — это ценник, а не себестоимость.

Тысяча долларов — и клон готов; табло пока за Jev

OpenAI представила предварительную версию Decisions API на конференции DevDay 29 сентября: Сэм Альтман пообещал предельную скорость за счет сужения модели Luna до выбора из заранее заданных вариантов 4. За две недели после выхода Jev появились десятки клонов 12; сборка одного такого, по оценке Брукера, стоит «сотни или тысячи долларов» 1. Табло пока не согласно: Jev 1.13 выиграл 21 из 25 партий StarCraft, у открытого OpenJev счет 0–9, а самая дешевая из подтвержденных побед Jev стоила $0,016 6.

Быстро и дешево — просто; защитный ров — это данные

«Если вам нужно действительно быстро и дешево, бросайте кости», — говорит глава TypeSafe Диогу Алмейда. «Трудное — интеллект», а ров (moat) у него — синтетические данные, на которых построена модель 4. Нынешние клоны, по его словам, «скорее похожи на людей из ML, которым захотелось реализовать крутую архитектуру» 1.

Об этом рве все еще спорят деньги. Посевной раунд на $40 млн при оценке $200 млн состоялся 15 сентября 5, а переговоры, о которых сейчас сообщает The Information, идут о привлечении $1 млрд и более при оценке выше отметки $10 млрд — в пятьдесят раз выше посевной, если сделка закроется на этом уровне 7. Не поделили даже заслуги: когда появились сообщения о раунде, swyx из Latent Space пожаловался, что в ролике на YouTube их логотип вырезали без указания авторства, добавив: «pls support smol creators» 89.

Бесплатные решения — это спрос, а не подрыв рынка

Jev назван в честь Уильяма Стэнли Джевонса — в соответствии с тезисом TypeSafe о том, что «каждое снижение стоимости интеллекта на порядок открывает на порядок больше сценариев использования» 3. Если тезис верен, бесплатный решатель Amazon будет продавать больше вычислительных мощностей, а не меньше: больше агентов станут принимать больше решений на оборудовании, которое кто-то все равно арендует.

Показателями станут две даты. Первая — цена, которую OpenAI опубликует за свой Decisions API: сервис пока в ограниченном предпросмотре, тариф не опубликован 4. Вторая — закроется ли раунд TypeSafe выше отметки $10 млрд 7. Решение по цене токена заставляет счетчик крутиться; решение по цене около нуля подтверждает ставку.

Deepdive

AI-generated from this story and its cited sources. Not investment advice.

Reader comments

0 comments

    Sign up

    Get your curated digest

    After email confirmation, you will receive a daily digest of the most relevant news that matter to your portfolio