Modal переносит работу ИИ-агентов на $300 млн в год на процессор Nvidia Vera: собственные тесты показали рост производительности до двух раз
Продукт, приносящий Modal $300 млн в год, будет работать на Arm-процессоре Nvidia Vera: по собственным замерам компании, на сервере, плотно заполненном контейнерами, он показывает до двух раз большую производительность, чем машина на Intel. Заявленная причина перехода — GPU простаивают, пока не завершится работа на CPU, — превращает выбор процессора в решение о том, сколько заработают дорогие чипы.
Richard Tang · 3 min read
Modal$87M — Modal, private, latest valuation $87M переносит свои «песочницы» (sandbox) для ИИ-агентов на процессор Vera компании Nvidia+1.92% — Nvidia, up 1.92 percent today, построенный на архитектуре Arm+0.88% — Arm, up 0.88 percent today: компания впервые уходит с чипов Intel−0.21% — Intel, down 0.21 percent today и AMD+2.23% — AMD, up 2.23 percent today, на которых работала всю свою историю. Поводом стал собственный бенчмарк, показавший до двух раз большую пропускную способность по задачам на сервере, плотно заполненном контейнерами 1.
На этот слой приходится около трети выручки компании: песочницы — изолированные компьютеры, где ИИ-агенты пишут и запускают код, — приносят $300 млн в годовом исчислении из заявленных Modal $1 млрд годовой выручки (run rate), а создано их уже почти 3 млрд 12. Причина, которую называет Modal, касается утилизации: при обучении с подкреплением дорогие GPU зачастую простаивают, пока не завершится работа на CPU 1.
Почему CPU определяет, сколько зарабатывают GPU
По словам Modal, большинство схем обучения до сих пор синхронные: каждый прогон (rollout) — одна полная попытка модели решить задачу, результат которой становится обучающим сигналом, — частично выполняется на CPU, и весь набор прогонов должен завершиться, прежде чем простаивающие GPU перейдут к следующему шагу. Время, сэкономленное на CPU, — это время, сэкономленное на GPU 3. Значит, дешевый процессор определяет, насколько загружен дорогой. Быстрый CPU фактически покупает GPU-часы.
Нагрузка агентов идет всплесками, и пропускная способность памяти Vera их выдерживает
Арендаторы песочниц — «шумные соседи»: агент простаивает в ожидании языковой модели, а затем при установке программного обеспечения потребляет в десять раз больше вычислительной мощности, чем обычно; сотни делят один хост, и всплеск одного клиента может замедлить работу другого 1.
В бенчмарке Modal из 50 задач по программированию Vera обошла чипы Intel, AMD и Amazon−0.32% — Amazon, down 0.32 percent today на одиночных задачах, но ненамного; отрыв раскрылся под нагрузкой: по мере накопления контейнеров Vera сохраняла темп, а остальные упирались в потолок, что Modal объясняет пропускной способностью памяти Vera 13. Результат получен самой Modal и независимой проверки не проходил 1.
Наценка смещается от изоляции к циклу обучения
14 октября Modal привлекла $750 млн при оценке $15,75 млрд и заявила, что эти деньги пойдут на более высокие слои стека — в том числе на обучение с подкреплением и инструменты пост-тренинга (post-training) 2. Облачный конкурент Together AI~$3.3B — Together AI, private, latest valuation ~$3.3B 19 октября открыл именно этот слой: зарезервированные GPU B200, цикл обучения определяет сам клиент, вводный тариф — $9 за GPU-час 45.
Слой ниже превращается в коммодити: Perplexity выложила в открытый доступ код своей продакшн-«песочницы» SPACE, а CoreWeave−2.35% — CoreWeave, down 2.35 percent today, Akamai+0.69% — Akamai, up 0.69 percent today и Crusoe$26.61B — Crusoe, private, latest valuation $26.61B уже предлагают подобные «песочницы» 68. За эту изоляцию разработчики ИИ-агентов по-прежнему платят Modal примерно на 41% больше за виртуальный CPU-час, чем в E2B или Daytona 6.
Это примерно втрое больше обычного тарифа самой Modal на вычисления 6. Modal арендует мощности более чем у двадцати облаков и собственных дата-центров не имеет, поэтому чип, удваивающий плотность упаковки, повышает доход каждого арендованного сервера 2.
Риск сокета — на Intel и AMD
В марте Nvidia представила Vera — созданный для ИИ-агентов процессор с 88 ядрами — и назвала среди первых пользователей Anthropic$350B — Anthropic, private, latest valuation $350B и OpenAI$1.18T — OpenAI, private, latest valuation $1.18T 1. В числе облаков, планирующих развертывание Vera, — Alibaba Cloud, ByteDance, CoreWeave, Nebius−2.06% — Nebius, down 2.06 percent today и Oracle−2.15% — Oracle, down 2.15 percent today 3. Выгода достается Nvidia дважды — и в самом процессоре, и в GPU, которые он не дает простаивать, тогда как Intel и AMD теряют сокет, достававшийся им по умолчанию в единственном слое, где агенты исполняют код.
Удвоение останется заявлением, пока не заработает в продакшене
Сроков, когда клиентские нагрузки лягут на Vera, в Modal не называют; Nvidia, в свою очередь, сообщает, что у партнеров процессор появится во втором полугодии 2026 года 13. Modal при этом подстраховывается: Intel и AMD остаются в обойме, а каждая задача уходит на тот чип, который выполнит ее лучше всего 7. Окончательный ответ даст только практика: сохранится ли выигрыш на плотно упакованном сервере вне собственного бенчмарка Modal — и устоит ли наценка в 41% перед слоем изоляции, который теперь ничего не стоит 6.
Get Data Center by email, free
Who is building AI's data centers, and who is paying for them. In our daily email, every weekday.
