앤스로픽 2조달러 상장 코앞…美법원, 국방부에 'AI 벤더 킬스위치' 쥐여줘

'거부'가 곧 리스크라는 판결

미국 컬럼비아특별구 연방항소법원 합의부는 금요일 2 대 1 다수 의견으로, 국방부가 외국 적대국과 연계된 적성 기업을 겨냥해 만든 2018년 법에 따라 앤스로픽을 공급망 리스크로 지정해 배제한 데 '충분한 근거'가 있다고 판결했다 ¹³. 다수 의견을 작성한 그레고리 카차스 판사는 앤스로픽이 클로드를 특정 작업을 거부하도록 공개적으로 프로그래밍했기 때문에 법이 경계하는 조종은 '확실한 일'이라고 판시했다 ²³. 합의부는 앤스로픽의 '숭고한 의도'를 '의심할 이유가 없다'고 했다. 다만 이 법이 따지는 것은 '앤스로픽이 무엇을 하는가'이지 '왜 하는가'가 아니라고 못 박았다 ².

이 판시는 앤스로픽 하나로 끝나지 않는다. 폴리티코↗는 이번 판결을 2018년 도입된 지정 권한에 대한 첫 항소심 해석으로 짚었다. 이 권한이 미국 기업에까지 확대된 것은 법조문이 '누구나 저지를 수 있는'(any person may sabotage) 리스크를 다루기 때문이다. 결국 국내 벤더를 '내부 윤리나 제품 안전상의 한계를 이유로' 배제할 수 있는 권한이 된 셈이다 ³. 이것이 법원의 검증을 거친 킬스위치(kill switch)다. 악의는 필요 없다. 거부하도록 설계된 제품이면 충분하다. 이 법 아래에서 무기 제작을 거부하는 것 자체가 곧 안보 리스크다.

계약 다툼이 '매출 구멍'으로

다툼의 출발점은 군 업무에 클로드를 활용하는 약 2억달러 규모 계약이었다 ⁹. 피트 헤그세스 미 국방장관은 계약이 '모든 합법적 사용'을 허용한다고 주장했다. 앤스로픽은 이 가운데 두 가지 용도, 자율살상무기와 대규모 국내 감시는 거부했다 ⁹. 헤그세스 장관은 3월 클로드를 공급망 리스크로 지정하며 군과의 계약을 취소하고 국방부 계약업체의 앤스로픽 제품 사용을 금지했다 ⁴⁵. 앤스로픽은 3월 9일 두 건의 소송↗으로 맞섰다 ¹.

이번 지정의 효력은 국방부와 그 계약업체에만 미친다. 연방 정부의 나머지 부처에는 해당하지 않는다 ². 앤스로픽은 블랙리스트 지정으로 수십억달러 규모의 사업을 잃었고 회사 명성에도 타격을 입었다고 주장했다. 다만 회사 측 주장일 뿐 구체적인 금액은 제시하지 않았다. 약 2조달러를 목표로 하는 10월 나스닥 상장↗을 몇 주 앞두고 벌어진 일이다 ⁴⁷.

두 법원, 엇갈린 결론

캘리포니아의 리타 린 판사는 8월 27일 병행 지정을 '수정헌법 제1조를 위반하는 불법 보복'이라며 취소했다↗. 9개 기관에 내려진 제재를 해제하는 영구적 금지명령이다 ⁸⁹¹⁰. 그는 '국가안보라는 공허한 명분은 정부 비판자를 처벌하고 보복할 백지수표가 아니다'라고 썼다 ⁸.

그럼에도 국방부는 지정을 유지했다. 에밀 마이클 미 전쟁차관은 9월 3일 앤스로픽이 국방부와 국방 산업기반에 대해 '여전히 지정된 공급망 리스크' 상태라고 확인했다↗ ¹⁰. 컬럼비아특별구 연방항소법원 합의부는 두 판결의 충돌을 법 문언, 곧 '적대자'와 '모든 사람'이라는 표현 차이로 설명했다. 2018년 법률은 악의를 요구하지 않는다는 것이다 ³. 앤스로픽의 수정헌법 제1조 주장도 같은 근거로 인정받지 못했다. 제외의 기준은 표현이 아니라 계약 조건이라는 것이다 ¹.

군의 우려는 기우가 아니었다

클로드는 기밀 및 민감 시스템 안에서 가동되고 있었다. 여기에는 1월 베네수엘라 지도자 니콜라스 마두로를 체포한 작전도 포함된다 ⁴⁵. 카차스 판사는 판결 말미에 이 판단은 업체가 아니라 '대통령과 전쟁장관'의 몫이라고 못박았다 ³. 숀 파넬 국방부 대변인은 이번 판결이 '국방부의 입장을 완전히 입증한다'고 말했다 ².

전원합의체, 대법원, 아니면 상장

앤스로픽은 "추가 심판을 포함한 모든 선택지를 검토하고 있다"고 밝혔다. 사실상 컬럼비아특별구 연방항소법원 전원합의체 심판이나 대법원 심판을 가리킨다 ²³. 공개 사업설명서는 9월 26일 현재까지도 에드가(EDGAR)에 올라오지 않았다↗. 6월 1일 비공개로 제출한 초안 이후 4개월이 지났다 ⁶.

클로드가 맡았던 기밀 작업을 어떤 업체가 넘겨받는지 밝힌 소스는 없다. 사라진 수십억 달러 손실에도 구체적 숫자는 없다. 이번 상장을 사는 이는 매출과 함께 클로드의 '거부'까지 인수하는 셈이다.