챗GPT 사용했다가 해고? OpenAI ‘인간 해자’ 속 평가자들

제공된 유일한 지름길로 해고

챗GPT를 인간답게 유지하기 위해 돈을 받는 이들. 직장을 잃을 확실한 방법은 단 하나: 모델에게 맡기는 것. 챗GPT 응답을 채점하는 계약자들은 AI를 사용하다 "항상" 해고되는 동료를 묘사한다. "ASAP으로 쫓겨나는 거의 유일한 일"이라며, 만 명 이상이 참여할 수 있는 프로젝트에서 일한다 ¹². 오픈AI는 논평을 거부했다 ¹.

진정성, 대시로 감사하다

내부 규칙은 단도직입적이다. "AI 감지 도구를 사용하지 마라, 직접 AI를 사용하지 마라." GPTZero는 신뢰할 수 없다고 판정되고, 심지어 Grammarly와 AI 번역도 다른 평가자들의 AI 사용을 잡는 리뷰어에게는 금지된다. "하나의 단서가 아닌 전체 패턴을 판단하라," 한 가이드가 지시한다. 단서는 스타일에 있다: 반복 단어, 대시 과용, 의심스러울 정도로 빠른 회전. 한 평가자는 "진정성"을 인용한 해고 통지서↗를 공유했다 ¹².

벤더의 해자 수학

메르코르는 인터뷰한 계약자 중 두 명을 제공했다. 집행을 확인한다: 계약은 대규모 언어 모델(LLM) 사용을 "엄격히 금지"하고, 확인된 사용은 즉시 해고를 의미한다 ¹². 그 밑의 사업은 호황이다. 3만 명 이상의 계약자, 하루 150만 달러 이상 지급↗, 매 시간 매칭 수수료, 2025년 2월 이후 10배 증가한 밸류에이션 ³⁴⁵⁶. 판매 포인트는 바로 감시되는 것이다. 최고경영자는 작업을 "인간만이 지닌 판단력, 뉘앙스, 감각"을 기계에 가르치는 것으로 홍보한다 ³.

레이블은 남고, 평가자는 떠난다

문서 어디에도 이미 학습 데이터로 들어간 작업물을 다시 검수하라는 대목은 없다. 단속이라야 사람을 내보내는 선에서 끝난다 ¹². 평가자들이 채점한 것은 실제 사용자 대화였다. 이 대화는 기본값으로 학습에 쓰인다. 평가자들은 시간당 50달러가 넘는 보수로 이를 읽어 내려갔고, 한 평가자는 이 일을 "몹시 단순 반복적"이라고 불렀다 ²⁷. 9월 2일 오픈AI에 송달된 제안된 집단소송↗의 요지는 사람이 자신의 채팅을 읽는다는 사실을 사용자에게 명확히 알린 적이 없다는 것이다. 오픈AI는 10월 13일 법정에서 답변한다. 원고들은 사람이 개입하는 모든 검토에 앞서 동의를 받아야 한다고 요구한다 ⁸. 모델이 생성한 텍스트로 무차별 학습하면 되돌릴 수 없는 결함이 생긴다는 것이 2024년 네이처 논문↗의 결론이다. 다만 오픈AI 모델 내부에서 그런 일이 일어났음을 보여주는 공개 자료는 없다 ⁹.

대기열 속 사보타주

공급업체의 단속은 실재한다. 금지하고, 탐지에 투자하고, 확인되면 퇴출한다 ¹². 이 단속은 네 번째 계약자에게는 미치지 못한다. 이 계약자는 때로 일부러 최악의 답변을 고른다고 말했다. "AI를 나쁘게 만드는 대가를 받는" 셈인데, 이를 잡아낼 감지 장치는 자료에 나오지 않는다 ¹.

지켜봐야 할 대목

눈여겨볼 것은 두 가지다. 오픈AI의 법정 기한인 10월 13일, 그리고 메르코르의 화제가 된 200억 달러 라운드↗가 성사될지 여부다 ⁵⁸. 적발될 때마다 평가자 한 명이 교체된다. 기록 어디에도 그들이 남긴 레이블을 대체하는 것은 없다.