아마존 트레이니움, AI 모델 '학습'도 가능해졌다…10월 29일 실적발표 앞두고 엔비디아 압박

아마존▼−0.72% — 아마존, down 0.72 percent today의 자체 AI 칩 트레이니움이 자신을 규정하던 경계를 넘어섰다. 이제 모델을 돌리기만 하는 칩이 아니라 학습까지 할 수 있게 된 것이다. 트레이니움3 랙에서 수 주간 테스트를 마친 독립 반도체 리서치 업체 세미애널리시스는 연구자 대다수가 이미 쓰고 있는 프레임워크인 파이토치가 이제 네이티브로 구동된다고 보고했다↗. 코드는 연구자들이 익숙한 방식대로 한 줄씩 실행되는 이저 모드(eager mode)에서 돌아가고, 구동 속도를 끌어올리는 torch.compile 도구도 작동한다. 사실상 바꿔야 할 것은 `.to("cuda")`를 `.to("neuron")`으로 고치는 것뿐이다 ¹.

한계도 분명히 적시했다. 이 스택은 엔비디아▼−0.54% — 엔비디아, down 0.54 percent today의 소프트웨어 계층인 쿠다 생태계의 성숙도에 "한참 못 미친다"는 것이고, 테스트에 쓰인 가장 큰 모델도 320억 개 파라미터로 프론티어급 대형 모델을 학습하는 수준이 아닌 연구 규모였다 ¹.

같은 날 아마존 앤디 재시 최고경영자는 수요 쪽을 맡았다. 벤처캐피털 a16z에 그는 모델이 답을 낼 때마다 비용을 치르는 연산, 즉 추론이 여전히 10배는 비싸다고 진단했다. 그러면서 트레이니움이 동급 프로세서 대비 가격 대비 성능을 30~40% 앞선다고 내세웠다 ². 엔비디아의 학습 가격은 세미애널리시스가 막 재어 본 소프트웨어 마찰 위에 얹혀 있었다. 그 마찰이 닳아 없어지는 중이다.

전환 비용이 곧 해자였다

클로드(Claude)를 개발한 AI 연구소이자 트레이니움의 핵심 고객인 앤스로픽PVT$350B — 앤스로픽, private, latest valuation $350B은 이미 트레이니움2와 트레이니움3에서 상용 추론과 강화학습 롤아웃을 돌리고 있다 ¹. 끝까지 남아 있던 것은 연구용 학습이었다. 연구자들은 모델 구조를 매일 뜯어고치는데, 예전 트레이니움 방식은 XLA 방식의 그래프 컴파일러를 거쳐야 해서 쿠다에서 넘어온 사람이라면 학습 루프를 새로 익혀야 했기 때문이다 ¹.

세미애널리시스는 가중치가 공개된 Qwen3-32B를 학습시키고 이 모델의 구조 코드도 수정했다. 오픈AIPVT$1.18T — 오픈AI, private, latest valuation $1.18T의 오픈 웨이트(open-weight) 학습 설정인 gpt-oss 레시피는 손대지 않고 그대로 돌렸다 ¹. 결과는 컴파일 모드에서 초당 1만4156토큰, MFU 30.47%였다. 이저 모드의 초당 1만1099토큰, MFU 23.89%보다 1.28배 개선된 수치다 ¹. MFU는 칩이 낼 수 있는 최대 연산 성능 가운데 실제 작업에 쓰이는 비율을 재는 지표다.

이 뒤에는 최대 8만 개의 물리 코어로 돌아가는 자동화 품질 관리 체계가 있다. 연구자들이 코드를 공유하는 저장소 허깅페이스의 상위 10만 개 모델을 대상으로 엔비디아 기준값과 수치를 하나하나 대조해 검증한다 ¹. AWS는 또 구글에서 TPU 칩에 파이토치를 네이티브로 돌리는 작업을 이끌었던 엔지니어를 영입해 같은 수를 여기서도 펼치고 있다 ¹. 테스트가 하나 통과될 때마다 연구자가 코드를 다시 쓰지 않고도 옮길 수 있는 모델이 하나 늘어난다.

먼저 나온 것은 이익률 증거

돈은 테스트보다 먼저 움직였다. AWS는 자본지출이 불어나는 와중에도 2026년 2분기 영업이익률 39.4%를 기록했다 ³. 수주 잔고는 4960억 달러↗에 이른다. 2026년 용량은 사실상 동났고 2027년 용량도 대부분 예약이 잡혀 있다 ³.

앤스로픽과 오픈AI가 공개한 트레이니움 향후 사용 약정 규모는 2250억 달러를 넘는다 ². 본지는 이달 초 엔비디아 칩 80억 달러어치의 리스크를 파는 아마존의 구조를 짚은 바 있다. 이 거래에 빠져 있던 나머지 절반은 트레이니움이 자체 소프트웨어만으로 일감을 따낼 수 있다는 증명이었고, 그 증명이 이번 주 공개된 것이다 ².

병목은 컴파일러로 옮겨 갔다

트레이니움을 가로막는 것은 이제 소프트웨어 완성도이고, 아마존은 그 간극을 메우려 돈을 쓰고 있다. gpt-oss 레시피를 컴파일하는 데는 약 27분이 걸렸다. 한 시간 단위로 모델을 고쳐 돌리는 연구자에게 그야말로 죽은 시간이다. AWS는 재구축한 컴파일러로 이 대기 시간을 최대 100분의 1까지 줄이는 것이 목표라고 밝혔다 ¹.

아마존은 Decart를 70억 달러에 인수하는 작업↗도 눈앞에 두고 있다. 이스라엘 스타트업인 이 회사의 최적화 스택은 쿠다(CUDA)에서 코드를 옮기는 데 몇 달씩 걸리던 포팅 작업을 몇 주로 줄여준다 ⁵. 앤스로픽도 자체 칩 팀을 꾸려 헤지에 나섰다. 다만 양산용 칩은 2028년은 돼야 나온다 ⁶. 엔지니어의 몸값을 결정하는 기술도 쿠다(CUDA) 코드 작성에서 가장 싼 실리콘 위에서 모델을 잘 돌리는 쪽으로 옮겨 가는 중이다.

거래의 값은 10월 29일에 다시 매겨진다

확인된 팩트는 학습 테스트와 AWS의 영업이익률까지다. 그 너머는 전망이다. 더 싸진 추론 위에 더 싸진 학습이 얹혀 재시가 '바벨의 가운데(middle of the barbell)'라고 부르는 영역, 즉 그가 AI 수요의 최대 원천으로 꼽는 일상적인 기업용 소프트웨어 시장이 열린다는 그림이다 ².

아마존은 오는 10월 29일 3분기 실적을 발표한다. 예측시장 칼시(Kalshi)에서 트레이더들은 이번 실적 콘퍼런스콜을 트레이니움이 장악할 확률을 96%로 잡았다 ². 아마존에 남은 물음은 투자자들이 트레이니움을 부수 사업으로 취급하는 것을 그만두느냐다. 엔비디아에 남은 물음은 가장 짭짤한 사업인 학습이 연구자들이 코드를 다시 쓰지 않고도 옮겨갈 수 있는 칩과 견줘 가격이 매겨지기 시작하느냐다.