안스로픽의 상품은 '안전'이었다…화요일 그 상품을 만들던 사람이 걸어 나갔다

제이콥 콕슨(Jacob Coxon)이 화요일 안스로픽에 사표를 냈다. 그가 맡아 온 분야는 사전학습, 클로드 모델의 뿌리가 되는 기초 작업이다. 경력은 오픈AI에서 시작해 이후 '신중한 회사'를 내세우는 안스로픽으로 옮겼다. 그는 이제 두 직장 모두 “스스로 개선하는 초지능을 향해 곧장 질주하며 우리 목숨을 걸고 도박하고 있다”고 썼다.^1,2

그가 실제로 말한 것

X(옛 트위터)에 남긴 퇴사 글에서 그는 이 두려움이 쇼가 아니라고 말한다. “AI를 만드는 사람들은 그것이 이번 10년이 끝나기 전에 우리 모두를 죽일 수 있다고 진심으로 믿는다. 마케팅용 허세가 아니다.”¹ 두 회사를 가르는 그의 잣대는 직설적이다. 오픈AI는 자기가 무엇을 만들고 있는지 받아들이지 못했다. 안스로픽은 받아들이고도 그대로 만든다. 경쟁자는 신중해지지 않을 테니 결국 자기가 이겨야 한다는 논리다.²

혼자가 아니다

회사 안에서도 그는 혼자가 아니다. 동료인 에번 후빙거(Evan Hubinger)는 공개적으로 이렇게 썼다. 현재 모델의 위험은 낮지만 “재귀적 자기개선에서 비롯되는 초지능”과 함께 복리처럼 불어나고 있으며, 그 초지능은 “생각보다 빠르게” 오고 있다는 것이다. 콕슨은 미국 내 연구소들 사이에 속도 조절 합의(pacing agreement)를, 그게 여의치 않으면 능력 향상의 일시적 금지를 촉구했다.²

돈은 눈 하나 깜빡하지 않았다

돈은 눈 하나 깜빡하지 않았다. 오픈AI는 같은 날 오전 신형 모델 아스트라(Astra)를 선보였다.⁸ 법률 AI 스타트업 하비(Harvey)는 같은 날 155억 달러 기업가치로 5억5000만 달러 투자유치를 마쳤다.⁹ 그리고 빌 걸리(Bill Gurley)는 AI 종말론자들에게 모든 것이 놀랍도록 좋아질 테니 침착하고 계속 나아가라고 말했다. 차마스 팔리하피티야(Chamath Palihapitiya)가 이에 동조해 공유하면서 조회수 30만1000회를 기록했다.^4,5

이사회가 주목해야 할 이유

안스로픽의 상업적 우위는 신뢰이고, 신뢰는 측정 가능하다. 클로드는 월간 사용자 2억4500만 명으로 업계 3위이며, 이 가운데 13%를 유료 구독으로 전환해 업계 최고 전환율을 기록하고 있다.^6,7

안전을 내세우는 브랜드가 안전 연구자를 잃으면 슬로건은 남고 실체는 사라진다.

이 경쟁에는 이제 스코어보드가 세 개 있다. 출시한 모델, 끌어모은 자본, 그리고 떠나는 연구자. 세 번째를 주시하라. 가장 먼저 움직이는 것이 그것이다.