Modal traslada 300 millones de dólares de trabajo de agentes de IA a la CPU Vera de Nvidia tras medir hasta el doble de rendimiento en pruebas propias
Modal ejecutará en el procesador Vera de Nvidia, basado en arquitectura Arm, el producto que le reporta 300 millones de dólares al año, después de que sus propias pruebas midieran hasta el doble de rendimiento por servidor repleto de contenedores que una máquina de Intel. La razón que aduce —las GPU quedan ociosas hasta que la CPU termina su trabajo— convierte la elección del procesador en una decisión sobre cuánto ingresan los chips caros.
Richard Tang · 3 min read
Modal$87M — Modal, private, latest valuation $87M está trasladando sus entornos aislados para agentes de IA al procesador Vera de Nvidia+1.92% — Nvidia, up 1.92 percent today, basado en arquitectura Arm+0.88% — Arm, up 0.88 percent today. Es su primer paso fuera de los chips de Intel−0.21% — Intel, down 0.21 percent today y AMD+2.23% — AMD, up 2.23 percent today, en los que siempre ha funcionado. El cambio llega después de que su propio banco de pruebas midiera hasta el doble de tareas procesadas en un servidor repleto de contenedores 1.
Cerca de un tercio de los ingresos de la empresa dependen de esta capa: los entornos aislados —ordenadores separados donde los agentes de IA escriben y ejecutan código— aportan 300 millones de dólares anualizados de los mil millones que Modal declara como ritmo anual de ingresos, y ya se han creado casi 3.000 millones de estos entornos 12. La razón que da Modal es una afirmación sobre la utilización: en el aprendizaje por refuerzo, las GPU, que son caras, suelen quedarse ociosas hasta que la CPU termina su trabajo 1.
Por qué la CPU decide lo que ganan las GPU
Según Modal, la mayoría de las configuraciones de entrenamiento siguen siendo síncronas: cada rollout —cada intento completo del modelo por resolver una tarea, cuyo resultado se convierte en señal de entrenamiento— pasa parte del tiempo en la CPU, y todo el conjunto de rollouts debe completarse antes de que las GPU ociosas pasen al paso siguiente, de modo que el tiempo ahorrado en CPU es tiempo ahorrado en GPU 3. El procesador barato decide, por tanto, cuánto se usa el caro. Una CPU más rápida equivale, en la práctica, a comprar horas de GPU.
El trabajo de los agentes tiene picos, y el ancho de banda de Vera los absorbe
Los inquilinos de los entornos aislados son ruidosos: un agente permanece ocioso esperando a un modelo de lenguaje y luego consume diez veces su potencia de cómputo habitual durante una instalación de software; cientos comparten un mismo host, de modo que el pico de un cliente puede ralentizar el trabajo de otro 1.
En el banco de pruebas de Modal, con 50 tareas de programación, Vera superó a los chips de Intel, AMD y Amazon−0.32% — Amazon, down 0.32 percent today tarea a tarea, aunque por poco margen; la brecha se abrió bajo carga, cuando Vera mantuvo el ritmo a medida que se acumulaban los contenedores y los demás tocaban techo, algo que Modal atribuye al ancho de banda de memoria de Vera 13. El resultado es de la propia Modal y no cuenta con verificación independiente 1.
El sobreprecio se desplaza del aislamiento al bucle de entrenamiento
Modal levantó 750 millones de dólares el 14 de octubre con una valoración de 15.750 millones de dólares, y dijo que ese dinero compra capas superiores, entre ellas el aprendizaje por refuerzo y las herramientas de post-entrenamiento 2. Together AI~$3.3B — Together AI, private, latest valuation ~$3.3B, una nube rival, abrió exactamente esa capa el 19 de octubre: GPU B200 reservadas, con el bucle de entrenamiento definido por el cliente, a un precio introductorio de 9 dólares por hora de GPU 45.
La capa que está por debajo se está comoditizando: Perplexity ha liberado en código abierto su entorno aislado de producción, SPACE, y CoreWeave−2.35% — CoreWeave, down 2.35 percent today, Akamai+0.69% — Akamai, up 0.69 percent today y Crusoe$26.61B — Crusoe, private, latest valuation $26.61B ya lo ofrecen 68. Por ese aislamiento, las empresas de agentes siguen pagando a Modal en torno a un 41% más por hora de CPU virtual que en E2B o Daytona 6.
Eso equivale aproximadamente al triple de la tarifa de cómputo ordinaria de la propia Modal 6. Modal alquila su capacidad a más de veinte proveedores de nube y no posee ningún centro de datos, de modo que un chip que duplique la densidad de contenedores por servidor eleva lo que gana cada servidor alquilado 2.
Intel y AMD cargan con el riesgo del zócalo
Nvidia lanzó Vera en marzo como una CPU diseñada para agentes, con 88 núcleos, y señaló a Anthropic$350B — Anthropic, private, latest valuation $350B y OpenAI$1.18T — OpenAI, private, latest valuation $1.18T entre sus primeros usuarios 1. Alibaba Cloud, ByteDance, CoreWeave, Nebius−2.06% — Nebius, down 2.06 percent today y Oracle−2.15% — Oracle, down 2.15 percent today figuran entre las nubes que planean desplegarla 3. La ganancia le llega a Nvidia por partida doble, una en la CPU y otra en las GPU que mantiene ocupadas, mientras que Intel y AMD pierden el zócalo que ocupaban por defecto en la única capa donde los agentes ejecutan código.
El doble de rendimiento es solo una afirmación hasta que funcione en producción
Modal no da fecha para el aterrizaje de sus clientes en Vera, y Nvidia dice que la disponibilidad a través de sus socios llegará en el segundo semestre de 2026 13. Modal también se cubre las espaldas: mantiene a Intel y AMD en rotación y envía cada trabajo al chip que mejor lo ejecute 7. La lectura final dependerá de si la ganancia con el servidor repleto de contenedores se sostiene fuera del banco de pruebas de la propia Modal, y de si el sobreprecio del 41% sobrevive a una capa de aislamiento que ya es gratuita 6.
Get Data Center by email, free
Who is building AI's data centers, and who is paying for them. In our daily email, every weekday.
