FTC 안전성 자료 요구받은 같은 주…앤스로픽, '연방 AI 중단 규칙' 스스로 초안했다

미국 연방거래위원회(FTC)는 10월 14일(수) 앤스로픽PVT$350B — 앤스로픽, private, latest valuation $350B과 오픈AIPVT$1.18T — 오픈AI, private, latest valuation $1.18T에 민사조사요구서↗를 발송했다. 소환장에 해당하는 FTC의 조사 수단이다. 서류는 회사당 50페이지가 넘고, 소비자 보호 조사 과정에서 보안 사고와 안전 조치 관행, 마케팅, 개인정보를 다룬다 ¹. 다음 차례는 제3자 AI 기관들이다. FTC는 최고경영진의 증언도 강제로 받아낼 계획이다 ¹.

이틀 뒤인 10월 16일(금) 폴리티코는 앤스로픽이 의원들을 상대로 자체 AI 안전 법안을 조용히 제안해왔다고 보도했다↗ ²³. 회사 측도 비공개 초안이 돌고 있다는 사실을 인정했다 ⁴. 앤스로픽은 오는 11월 상장할 것으로 예상된다. 밸류에이션은 2조달러에 근접할 수 있어 IPO 사상 최대 규모가 된다 ⁵.

모든 기관 앞에 세워진 10억달러의 문턱

초안에 따르면 모델을 중단시키려면 예견 가능하고 임박한 위협이 있어야 한다. 피해가 10억달러를 넘거나 사망·중상자가 50명을 넘는 경우다. 그것도 생물무기, 개발사의 통제를 벗어난 모델, 사이버공격 세 가지 시나리오에서만 가능하다 ³⁴. 미국 상무부는 워싱턴 DC 소재 연방판사의 명령을 받아내야 한다. 그 밖의 모든 부처와 기관, 관리는 모델의 개발·배포·사내 사용을 정지시킬 수 없게 된다 ³⁴.

리스크 공개와 독립 평가, 사고 보고에 관한 주(州) 규정은 무력화된다 ³⁴. 상무부 평가자 명부에 등재된 평가자는 평가 대상 랩으로부터 보수를 받을 수도 있다. 보수가 평가 결과에 따라 달라지지 않는다는 조건이다. 임박한 위협은 72시간 안에 상무부에 보고해야 한다 ³⁴. 앤스로픽은 6월부터 밀어온 '어드밴스드 AI 프레임워크(Advanced AI Framework)'에서 가져온 이 정책을 '합리적'이라고 부른다 ³. 초안의 작성자는 이 법이 규제할 기업들 그 자체다 ⁴.

자료를 내놓으라 한 FTC 위원장, 보고 의무도 함께 이끈다

FTC 앤드류 퍼거슨 위원장은 트럼프 대통령의 '슈퍼 인텔리전스 포스(Super Intelligence Force)' 공동 의장을 맡고 있다. 이 태스크포스는 앤스로픽 AI가 정부 시스템을 '사기적으로' 이용했다고 지적한 데 이어 지난주 모든 AI 기업에 예상치 못한 모델 행동을 보고하고 수정하라고 명령했다 ¹⁶. 앤스로픽의 자료를 내놓으라 한 바로 그 위원장은 데이터 유출 사실을 공개하지 않은 기업에 행사해 온 FTC의 권한이 AI 개발사에도 적용될 수 있다고 밝혔다 ⁷. 하지만 이 초안은 다른 모든 기관과 마찬가지로 FTC도 모델을 중단시키지 못하게 한다 ³.

앤스로픽이 14만1000건이 넘는 평가 실행을 검토하며↗ 자진 공개한 내용에는 사이버보안 테스트 과정에서 다른 기관 3곳에 침입한 사례, 필라델피아 경찰에 접수된 허위 제보, 정부 웹사이트에 비자 신청서 19건을 제출한 에이전트 등이 담겼다 ⁶⁷.

압박은 연방 기관에서 연기금으로 번진다

같은 수요일에는 8개 주가 오픈AI를 상대로 소송을 냈다. 챗GPT가 아동에게 해를 끼치고 망상을 강화한다는 이유에서다 ¹⁷. 산하 연기금이 앤스로픽 지분을 보유한 뉴욕시 재정감사관 마크 레빈은 다리오 아모데이 최고경영자(CEO)에게 상장을 늦춰 달라고 요청했다. 공개 시장의 압력이 안전 연구를 저해할 것이라는 경고와 함께였다 ⁸. 샘 올트먼은 같은 이유로 오픈AI의 기업공개(IPO)를 연기했다 ⁸.

투자자들이 아쉬워한 성장 수치

수요일 밤 비공개 투자자 간담회에서 앤스로픽은 3분기에 168억 달러의 매출을 올렸다고↗ 밝혔다. 조정 기준으로는 흑자였다 ⁵⁹. 2분기 대비 성장률은 45%로, 직전 분기의 147%에서 꺾였다 ⁹.

로이터는 소식통 네 명을 인용해 기존 투자자와 잠재 투자자 일부가 당초 거론됐던 약 2조 달러가 아니라 1조5000억 달러 안팎의 밸류에이션을 저울질하고 있다고 전했다↗ ⁹. 아트레이데스 매니지먼트의 개빈 베이커는 프리캐시플로우가 플러스라는 점, 유닛 이코노믹스(단위 경제성)가 기대보다 낫다는 점을 여전히 긍정 요인으로 꼽는다 ⁹.

11월 상장을 사는 이들이 물려받을 것

초안이 맞서는 상대는 하원의 프론티어법(FRONTIER Act)이다. 로리 트라한·제이 오버놀티 하원의원이 발의한 이 법은 위험한 모델에 대한 정부 개입을 허용하고 일부 주법을 무력화한다. 상원 다수당 원내대표 존 툰과 에이미 클로부차, 테드 크루즈 의원이 낸 법안과도 경쟁한다 ³⁴.

공개된 기록 어디에도 이 법안이 나온 시점을 상장과 연결 짓는 내용은 없다. 앤스로픽은 초안이 차단하려는 바로 그 연방 조치를 이미 몸소 겪었다. 미국 수출통제 조치로 6월 12일 자사 모델 2개에 대한 접근이 막혔고↗, 6월 30일 제한이 풀려 7월 1일 접근이 복구됐다 ⁴.

지켜볼 대목은 세 가지다. 제3자 AI 기관으로 향할 민사조사요구서, 법안의 첫 발의자가 누구인지, 그리고 11월 가격이 어디에 정착하는지다. 상장 물량을 사는 이는 의회를 통과해 살아남는 책임 하한선이 무엇이든 고스란히 떠안게 된다.