아마존, 의사결정 모델 무료 공개… 에이전트의 '가장 잦은 호출'은 종량 과금 밖으로
AWS는 이번 주 Strands Decider 2B를 무료로 공개했다. 오픈AI가 자체 의사결정 모델을 미리 선보이고 TypeSafe의 투자 유치 협상 소식이 나온 것도 같은 주였다. 에이전트 루프에서 가장 잦은 호출의 정가가 이제 0원이다.
Vincent Jiang · 3 min read
개인이 만든 클론, 아마존의 무료 제품이 되다
AWS 디스팅귀시드 엔지니어(Distinguished Engineer) 마크 브루커는 TypeSafe의 'Jev'를 보고 자기 방식대로 다시 만들었다 12. 이 자작 모델은 같은 규모 모델 부문 Jevbench 순위에서 한때 정상에 올랐고 1, 아마존은 이를 손질해 10월 1일 'Strands Decider 2B'로 내놨다. Qwen3.5-2B 기반 약 20억 파라미터 모델로 아파치 2.0 라이선스로 오픈됐으며, 호스팅 API도 호출당 과금도 없다 2. 에이전트의 상태를 읽어 점수가 매겨진 선택지와 신뢰도 값을 돌려준다 12.
에이전트의 잦은 단계가 종량 과금에서 빠져 나간다
이 모델이 맡으려는 단계는 빈번한 것들이다. 요청을 어디로 보낼지 정하고, 도구를 고르고, 수행된 행동을 검토하는 일이다 2. AWS는 이 모델의 이전 체크포인트인 버전 18을 로컬 RTX 3090 환경에서 의사결정당 중앙값 106ms로 측정했다. 공개 버전 자체의 지연시간은 나와 있지 않다 2.
지난 9월 15일 출시된 Jev는 입력 토큰 100만 개당 0.042달러, 출력 토큰은 무료다. TypeSafe가 LLM 입력 단가로 제시한 0.20~10달러(100만 토큰당)와 비교되는 수준이다 3. 한 해커톤 테스트에서 에이전트 1회 실행 때 모든 행동을 검토하는 비용은 Jev에서 2.94달러, 프론티어 모델(최고 성능급 LLM)에서 372달러였다 4. 이를 위한 토큰당 가격표는 만들어진 적이 없다.
입력 토큰 100만 개: 프론티어 최상위는 10달러, Jev는 4센트, AWS는 무료
Data
| Value | |
|---|---|
| 프론티어 LLM 입력 | $10/M |
| 최저가 LLM 입력 | $0.2/M |
| TypeSafe Jev | $0.04/M |
| Strands Decider 2B | free |
무료 가중치도 결국 누군가의 GPU를 태운다
아마존 자체 차트에서 이 모델은 같은 규모 공개 모델 가운데 2위다. 1위는 Mapika의 의사결정 모델이다. 완전한 학습 레시피(training recipe)를 공개한 모델들 사이에서만 1위다. 정작 Jev는 차트에 없어 맞대결 성적은 아예 존재하지 않는다 2. AWS는 호출당 운영 비용 추정치를 내놓지 않았다. Jev의 가중치를 비공개로 유지하는 TypeSafe는 입력 토큰 10억 개당 42달러를 받는다 23. 무료는 정가일 뿐 비용이 아니다.
천 달러면 클론을 만든다…순위표는 여전히 Jev 편
오픈AI는 9월 29일 데브데이(DevDay)에서 Decisions API를 시연했다. 샘 올트먼은 자체 루나(Luna) 모델을 미리 정해진 선택지로 한정해 극한의 속도를 내겠다고 약속했다 4. Jev 공개 뒤 2주 동안 클론 수십 개가 쏟아져 나왔다 12. 브루커는 클론 하나를 만드는 데 드는 비용을 "수백 달러에서 수천 달러"로 잡는다 1. 순위표는 여전히 다른 이야기를 한다. Jev 1.13은 스타크래프트 25경기 가운데 21경기를 이겼고, 오픈소스 OpenJev는 0승 9패다. Jev의 검증된 승리 가운데 가장 싼 승리는 0.016달러였다 6.
빠르고 싼 건 어렵지 않다…해자는 데이터
"정말 빠르고 싸기만 하면 된다면 주사위를 쓰면 된다"고 TypeSafe의 디오구 알메이다 CEO는 말한다. "어려운 쪽은 지능"이며, 그의 해자는 모델의 기반이 되는 합성 데이터라는 설명이다 4. 지금의 클론들은 "멋진 아키텍처를 구현해 보고 싶은 ML 사람들에 더 가까워 보인다"는 것이 그의 평가다 1.
돈은 아직 그 해자를 두고 다투고 있다. TypeSafe는 9월 15일 기업가치 2억 달러로 4000만 달러 시드 투자를 유치했다 5. 더 인포메이션(The Information)이 최근 보도한 투자 협상은 기업가치 100억 달러를 웃도는 선에서 10억 달러 이상을 걷는 내용이다. 이 조건대로 성사되면 시드 때 기업가치의 50배다 7. 심지어 공로를 두고도 다툼이 있다. 투자 소식이 알려지자 Latent Space의 swyx는 유튜브 영상 하나에서 출처 표기 없이 자신의 로고가 잘려 나갔다며 "pls support smol creators(작은 크리에이터를 지원해 달라)"라고 호소했다 89.
무료 의사결정은 파괴가 아니라 수요다
Jev라는 이름은 윌리엄 스탠리 제번스에서 따온 것이다. TypeSafe는 "지능의 비용이 한 자릿수 내려갈 때마다 활용 사례는 자릿수 단위로 더 많이 열린다"는 논리를 내세운다 3. 이 논리가 맞다면 아마존의 무료 의사결정 모델은 컴퓨트를 덜 팔게 하는 게 아니라 오히려 더 팔게 한다. 더 많은 에이전트가 더 많은 의사결정을 내리는 것이고, 그 하드웨어는 여전히 누군가 빌려 쓰기 때문이다.
향방을 알려주는 단서는 날짜 두 개다. 첫 번째는 오픈AI가 Decisions API에 붙이는 가격이다. 이 API는 아직 제한적 프리뷰 단계라 공개된 요율이 없다 4. 두 번째는 TypeSafe의 이번 투자 라운드가 기업가치 100억 달러를 넘어서 성사되는지 여부다 7. 의사결정 하나가 토큰처럼 값이 매겨지면 종량 과금 미터기는 계속 돌아간다. 0에 가까운 가격이 매겨지면 그 베팅이 맞았다는 뜻이다.
Deepdive
AI-generated from this story and its cited sources. Not investment advice.
