Самые глупые решения ИИ сделали бесплатными

15 сентября один из создателей ChatGPT выпустил передовую модель, которая не умеет писать. Диогу Алмейда участвовал в создании как самого чат-бота, так и метода его обучения RLHF, а затем два года в стелс-режиме строил в TypeSafe AI противоположность собственному изобретению ¹. Об индустрии, которую он сам и выстроил, он говорит без обиняков: «Мы поймали молнию в бутылке, но пользы от неё нет», потому что модели оптимизируются под человеческий язык, тогда как «компьютеры говорят на другом языке» ¹. Его новая модель Jev вообще не говорит.

Модель отвечает, а не пишет

На вход Jev получает блок состояния программы и набор типизированных вопросов; на выходе — ответы с калиброванными вероятностями: выбор одного из вариантов (до 255), оценка по шкале или вероятность «да/нет» ². Все вопросы считаются за один параллельный проход — без декодирования токен за токеном, без парсинга и без возможности «придумать» пятый инструмент в меню из четырёх ²³. По данным TypeSafe, решение занимает 70–500 миллисекунд, вход стоит $0,042 за миллион токенов, выход бесплатный ². Этот класс моделей компания называет System One — в честь «быстрого мышления» Канемана — и обучает их методом обучения с подкреплением добиваться калиброванных решений: заявленная уверенность соответствует реальной точности, и код может сам действовать при уверенности выше порога, а при более низкой — эскалировать ².

Агенты платили чат-цены за «светофорные» решения

Жизнь агента — это по большей части не рассуждение, а выбор: какой инструмент вызвать следующим, сработал ли клик, безопасно ли запускать эту команду. LangChain формулирует проблему стоимости цикла прямо: каждое решение — ещё один вызов модели↗ ⁴. Уже через два дня после релиза компания выпустила исправление в виде промежуточного ПО: роутер, который отправляет каждый запрос либо на дешёвую, либо на мощную модель, и предохранитель (guardrail), проверяющий каждый вызов инструмента перед выполнением ⁴. Vercel ещё раньше перевела на Jev классификатор OpenAI Luna, проверяющий команды на безопасность, и сообщает, что ответы стали приходить в 5–18 раз быстрее, а точность выросла ¹. В Browserbase браузерные агенты теперь принимают на Jev решения на каждом шаге за доли цента ⁴.

Узким местом была проверка, а не интеллект

Самая показательная цифра — не бенчмарк. Один разработчик направил Jev на 9 081 пару товаров, отложенных его собственным движком на ручную проверку, и разобрал всю очередь за 13 минут и 32 цента. Сам этот этап он ещё в июне заморозил: тарифы передовых моделей делали его строительство бессмысленным ⁵.

Автоматизация буксовала не потому, что модели не справлялись с рутиной. Она буксовала потому, что честная проверка каждого мелкого шага обходилась дороже самого шага, — автоматизировали в итоге только дорогие шаги.

Собственная оценка TypeSafe на четырёх рабочих процессах придаёт этой замене конкретные цифры↗: Jev повторяет точность GPT-5.6 Terra — 67,8% против 67,9% совпадений с эталонными ответами — при цене $0,0004 за случай ³. Заявленные в заголовках кратные улучшения — до 193 раз быстрее и в 445 раз дешевле ²⁶ — вендор посчитал сам, против эталонов, усреднённых по другим передовым моделям, и сама TypeSafe признаёт, что пиковые значения приходятся на верхнюю границу выигрышей в реальных условиях ².

Правила UiPath — актив под ударом

UiPath выстроила бизнес на детерминированной автоматизации по правилам — с регулярной выручкой $1,94 млрд и ростом на 12,5% ⁷. Её собственный операционный директор говорит, что клиенты теперь хотят „и детерминированных, и вероятностных возможностей ИИ“, настаивает, что платформа остаётся модельно-независимой (model-agnostic), и признаёт: развитие языковых моделей может превратить более простые автоматизации в коммодити ⁷. Калиброванное решение за доли цента — это и есть та самая коммодитизация, применённая к точке принятия решения внутри каждого процесса, которым управляет UiPath. Компания может принять её на себя через уже продающийся модельно-независимый Agent Builder — или наблюдать, как её конкурентный ров превращается в коммодити. Оба пути открыты. Вот только риски несимметричны.

Платформы, берущие плату за результат, забирают маржу себе

Salesforce отчиталась о регулярной выручке Agentforce свыше $1,5 млрд с ростом более чем на 240%↗: счета клиентам выставляются за диалоги, решённые обращения и кредиты, а лежащий в основе счёт за токены оплачивает сама — токенов потреблено более 19 трлн, и, как отмечает один из руководителей компании, один инженер „может запросто сгенерировать счёт на $100 тыс. в месяц“ ⁸. Каждый вызов маршрутизации, предохранителя или проверки, перенесённый на почти бесплатный слой, — это маржа на уже проданном продукте; та же арифметика ждёт ServiceNow и стек Copilot компании Microsoft — тот же вопрос это издание задавало, когда Salesforce открыла собственный маркетплейс агентов для Anthropic: кому достанется бюджет на ПО, когда агентский слой под ним подешевеет. Именно поэтому передний край сместился за считанные дни: Cloudflare внесла typesafe/jev в свою документацию по ИИ, а Vercel 16 сентября добавила модель в AI Gateway ⁵.

Меньше пропускной способности на решение — и больше решений

Про дата-центры нужно сказать честно. Каждый ответ формируется за один проход: цикла декодирования, который с каждым выходным токеном прогоняет данные через память, здесь нет. В расчёте на одно решение модель выглядит экономичнее по пропускной способности памяти, чем чат-модель, которую она вытесняет из этой задачи ³. Впрочем, это неправильная бухгалтерия. Дешёвый слой нужен затем, чтобы больше агентской активности стало окупаться, а для сложной части работы каждый из этих агентов всё равно обращается к передовой модели. TypeSafe назвала модель в честь Уильяма Стэнли Джевонса неспроста: подешевевший уголь означал, что сжигать его стали больше ²⁵. Совокупный спрос на уровень рассуждений и на поставщиков памяти, стоящих за ним, может вырасти даже при падении удельной стоимости. Таков аргумент; шести дней данных мало, чтобы вынести вердикт.

Частная, шести дней от роду — и архитектура, которую пора изучать

Что осталось неясным: тесты проводит сам вендор, в качестве эталонов взяты ответы других моделей, а не истинные значения, на выходе даётся вероятность без обоснования, Jev всё же может ошибаться в классификации, а TypeSafe признаёт, что не может доказать, что её цены не субсидируются ²³⁵⁶. Сама TypeSafe — компания частная: она привлекла на посевном этапе $40 млн во главе с DCVC и, по одному из сообщений, оценена примерно в $200 млн↗ ⁹. Поэтому тикера, за которым стоял бы этот сдвиг, не существует, а любой список, претендующий на обратное, — спекуляция.

Следите за серединой стека

Ценность достаётся тому, кто сокращает дистанцию между технологической возможностью и чьим-то рабочим днём, и на этой неделе такая работа — снижение цены честных мелких проверок. Следите за серединой стека: платформы, встраивающие этот слой в уже продаваемые продукты, оставляют маржу себе, а вендоры, торгующие правилами и от него отказывающиеся, становятся коммодити. Для тех, кто строит, каскад — дешёвые решения под дорогими рассуждениями — и есть архитектура, которую пора осваивать, со всеми оговорками шести дней от роду. Кто её освоит, у тех работа и изменится следующей.