모달, 연 3억달러 AI 에이전트 작업 엔비디아 '베라' CPU로 이전…자체 테스트서 최대 2배 처리량
모달이 연 3억달러를 벌어다주는 제품을 엔비디아의 ARM 기반 베라(Vera) CPU에서 돌리기로 했다. 자체 테스트에서 컨테이너로 빼곡히 채운 서버의 처리량이 인텔 머신의 최대 2배로 나타났기 때문이다. 모달이 내세운 이유인 'CPU 작업이 끝나기 전까지 GPU가 놀고 있다'는 주장이 CPU 선택을 비싼 칩이 얼마나 벌어들이는지를 정하는 결정으로 바꿔 놓는다.
Richard Tang · 3 min read
모달$87M — 모달, private, latest valuation $87M이 에이전트 샌드박스를 엔비디아+1.92% — 엔비디아, up 1.92 percent today의 ARM+0.88% — ARM, up 0.88 percent today 기반 베라 CPU로 옮긴다. 그동안 줄곧 써 온 인텔−0.21% — 인텔, down 0.21 percent today·AMD+2.23% — AMD, up 2.23 percent today 칩에서 벗어나는 첫걸음이다. 컨테이너로 빼곡히 채운 서버에서 과제 처리량이 최대 2배에 달한다는 자체 벤치마크 결과 때문이다 1.
이 계층에는 회사 매출의 약 3분의 1이 걸려 있다. 샌드박스는 AI 에이전트가 코드를 작성하고 실행하는 격리된 컴퓨터로, 모달이 밝힌 연환산 매출 10억달러 가운데 연환산 3억달러를 가져오고 지금까지 만들어진 것만 거의 30억 개에 이른다 12. 모달이 내세우는 이유는 활용률에 관한 주장이다. 강화학습에서는 값비싼 GPU가 CPU 작업이 끝나기를 기다리며 자주 놀고 있다는 것이다 1.
CPU가 GPU의 수익을 가른다
모달은 대부분의 학습 환경이 여전히 동기 방식이라고 설명한다. 롤아웃(rollout)은 모델이 과제를 한 번 끝까지 시도해 그 결과가 학습 신호가 되는 것인데, 이 롤아웃 각각은 시간의 일부를 CPU에서 보낸다. 롤아웃 묶음 전체가 끝나기 전에는 놀고 있는 GPU도 다음 단계로 넘어가지 못한다. 결국 CPU에서 줄인 시간이 곧 GPU에서 줄인 시간이 된다 3. 그래서 값싼 프로세서가 값비싼 프로세서를 얼마나 쓸지를 결정한다. 더 빠른 CPU는 사실상 GPU 시간을 사 주는 것이나 마찬가지다.
에이전트 작업 들쭉날쭉…베라의 대역폭이 소화한다
샌드박스 세입자들은 조용하지 않다. 에이전트는 언어모델의 응답을 기다리며 멈춰 있다가 소프트웨어를 설치할 때는 평소의 10배 컴퓨팅 파워를 끌어 쓴다. 수백 개가 한 호스트를 공유하다 보니 한 고객의 급증한 부하가 다른 고객의 작업을 늦출 수 있다 1.
50개 코딩 과제를 놓고 벤치마크한 결과, 과제 하나씩 겨루면 베라가 인텔·AMD·아마존−0.32% — 아마존, down 0.32 percent today 칩을 앞섰지만 차이는 미미했다. 격차가 벌어진 것은 부하가 걸릴 때였다. 컨테이너가 쌓여 가는 와중에도 베라는 속도를 유지했고 나머지 칩들은 한계에 부딪혔다. 모달은 그 이유를 베라의 메모리 대역폭에서 찾는다 13. 이 결과는 모달이 스스로 낸 것이며 독립적인 검증을 거치지 않았다 1.
프리미엄은 격리에서 학습 루프로 이동한다
모달은 10월 14일 기업가치 157억5000만달러를 인정받는 조건으로 7억5000만달러를 투자 유치했다. 회사는 이 돈으로 스택의 상위 계층을 사들이겠다고 밝혔다. 그 대상에는 강화학습과 포스트트레이닝(post-training) 도구 등이 포함된다 2. 경쟁 클라우드인 투게더 AI~$3.3B — 투게더 AI, private, latest valuation ~$3.3B는 10월 19일 바로 그 계층을 내놓았다. B200 GPU를 예약해 쓰고 학습 루프는 고객이 정의한다. 도입 특가는 GPU시간당 9달러다 45.
그 아래 계층은 커머디티화되고 있다. 퍼플렉시티가 실서비스에 쓰는 샌드박스 SPACE를 오픈소스화했고, 코어위브−2.35% — 코어위브, down 2.35 percent today·아카마이+0.69% — 아카마이, up 0.69 percent today·크루소$26.61B — 크루소, private, latest valuation $26.61B는 이미 이 계층을 상품으로 내놨다 68. 에이전트 업체들은 그 격리를 위해 여전히 모달에 가상 CPU 시간당 E2B나 데이토나보다 약 41%를 더 내고 있다 6.
이는 모달 자신의 일반 컴퓨팅 요금의 약 세 배다 6. 모달은 자체 데이터센터 없이 20개가 넘는 클라우드에서 용량을 빌려 쓴다. 따라서 컨테이너 밀도를 두 배로 높이는 칩은 빌린 서버 한 대가 벌어들이는 수익을 끌어올린다 2.
인텔과 AMD가 소켓 리스크를 떠안는다
엔비디아는 3월 에이전트를 위해 만든 88코어 CPU 베라를 선보이며 초기 사용자로 앤스로픽$350B — 앤스로픽, private, latest valuation $350B과 오픈AI$1.18T — 오픈AI, private, latest valuation $1.18T 등을 꼽았다 1. 베라 도입을 계획 중인 클라우드에도 알리바바 클라우드·바이트댄스·코어위브·네비우스−2.06% — 네비우스, down 2.06 percent today·오라클−2.15% — 오라클, down 2.15 percent today 등이 있다 3. 이득은 엔비디아에 두 번 돌아간다. 한 번은 CPU에서, 한 번은 그 CPU가 바쁘게 굴리는 GPU에서다. 에이전트가 코드를 실행하는 유일한 계층에서 인텔과 AMD는 기본으로 차지해 온 소켓을 잃는다.
'두 배'는 실서비스에 올라가기 전까지 주장일 뿐이다
모달은 고객 작업이 베라에 언제 안착하는지 시점을 내놓지 않았다. 엔비디아는 파트너사에서 베라를 쓸 수 있는 시기가 2026년 하반기라고 말했다 13. 모달은 한쪽에 기울지도 않는다. 인텔과 AMD를 계속 함께 돌려 쓰고, 작업마다 그 작업을 가장 잘 처리하는 칩으로 보낸다 7. 결국 판을 가를 것은 두 가지다. 컨테이너로 빼곡히 채운 서버에서 나오는 이득이 모달 자체 벤치마크 바깥에서도 유지되는지, 그리고 이제는 공짜가 된 격리 계층에서 41% 프리미엄이 살아남는지 여부다 6.
Get Data Center by email, free
Who is building AI's data centers, and who is paying for them. In our daily email, every weekday.
