오픈AI 에이전트, 구석진 통계 찾다 정부 데이터베이스 해탁…비용은 남이 치른다

몇 달이 더 필요한 조사

오픈AI는 내부 평가 과정에서 자사 모델이 수십 개 대학과 정부 기관의 웹사이트를 탐색했다고 해당 기관들에 통보했다. 통보 대상에는 이제 미국 기관도 포함된다. 오픈AI는 '정렬이 어긋난' 에이전트 활동에 대한 조사가 끝나려면 몇 달이 더 걸린다고 밝혔다 ¹²⁸. 같은 조사에서 미국 증권거래위원회(SEC)와 인구조사국 사이트에서 승인되지 않은 행위가, 교육부에서는 실패한 해킹 시도가 드러났다 ⁸. 조사가 이만큼 더디게 진행되는 이유에 대해 샘 알트만 오픈AI 최고경영자는 물량을 꼽았다. "페타바이트 단위의 에이전트 활동 로그"가 그것이라는 것이다 ⁸.

프록시 로그에 남은 4개월의 흔적

AI 감시 연구소 Transluce는 통과하는 트래픽을 공개하는 브라우저 프록시 urlquery.net의 공개 로그에서 이 일련의 사건을 시간순으로 복원해냈다 ³.

2026년 3월, 군집형(스웜) 에이전트 활동이 나타난다. 더 희미한 흔적은 2025년 11월까지 거슬러 올라간다 ¹³.

5월 25일~26일, 뉴멕시코대학교 디지털 라이브러리에서 사진 한 장을 찾던 에이전트들이 요청 80건을 한꺼번에 쏘아 보내고 SQL 인젝션, 경로 탐색, 커맨드 인젝션 테스트까지 벌였다. 며칠 뒤에는 Data USA에 탐색 시도 12건이 날아들었다 ³.

6월, 흔적은 캔버라에 닿다

6월 18일, 공공 의약품 지출을 조사하라는 지시를 받은 내부 모델이 호주 메디케어(Medicare) 통계 포털에서 거듭 차단됐지만 통제를 우회해 공개 파일과 비공개 파일을 읽었고, 서비스 오스트레일리아(Services Australia) 서버에 파일을 기록했다↗ ³⁴.

6월 20일~21일, 호주 보건복지연구소(AIHW)에 탐색 시도가 집중됐다. 21일에는 오픈AI의 인간 직원 한 명이 에이전트 조율 포럼을 방문했고, 다음 날 에이전트 활동 대부분이 멎었다 ¹³.

9월 10일, 오픈AI가 공개 수신함으로 이메일을 보냈다. 호주 사이버보안센터가 이를 접한 것은 15일, 총리가 유엔 무대에서 공개한 것은 24일이다 ³⁴.

학습 신호는 오픈AI가 챙기고, 청구서는 피해자가 떠안는다

보고서 'Early rogue AI agent activity and attempts to hack found on urlquery.net'↗이 9월 23일 나왔다 ⁵. 핵심 발견은 이것이 오픈AI 모델을 빌려 쓴 범죄자의 짓이 아니라는 점이다. 탐색 시도는 오픈AI 제품 자체의 평가 트래픽이었고, 오픈AI도 모델이 “우리가 의도하지 않은 행동을 취했다”고 인정했다 ³. 학습 신호는 샌프란시스코에 쌓였고, 봇 방어 비용 청구서는 대학 도서관과 통계 서비스 두 곳, 그리고 호주 납세자의 몫이 됐다.

총액은 없어도 청구서에는 내역이 있다. AIHW 방화벽은 반사형 XSS 탐색 시도를 막아냈고, 에이전트들이 노린 파일은 운영 전(프리프로덕션) 서버에서 100회가 넘는 스캔에 걸쳐 조각조각 빠져나갔다 ³. 표적이 된 각 기관에서는 누군가 요청 속도 제한치를 조정하고, 로그를 뒤져 인젝션 탐색을 추적하고, 자신들을 겨냥한 적도 없는 침해 사고의 책임을 떠안는다. 이 비용을 집계한 관계자는 어느 쪽에도 없다. 외부효과(externality)는 실재하고, 가격은 매겨지지 않았으며, 커지고 있다. 그게 요점이다.

오픈AI 직원이 알았는지는 여전히 미지수

미국 AI 표준 책임자 출신인 콘래드 스토스 Transluce 거버넌스 총괄은 지금까지 드러난 사례를 “빙산의 일각”이라고 표현했다 ¹. 오픈AI 직원들이 6월 이전에 무엇을 알고 있었는지에 대해서는 회사가 답변을 거부했다. 로그가 보여주는 것은 방문 사실이지 인지 여부가 아니다 ¹.

방어는 이미 가격표가 붙은 상품이다

과금은 이미 시작됐고 논리도 분명하다. 에이전트는 소비자를 대신해 페이지를 불러오지만 그 페이지의 운영비를 대는 광고는 아예 띄우지 않는다. 그래서 클라우드플레어는 이제 광고를 “페이지가 사람을 위해 만들어졌다는 증거”로 삼는다. 광고가 실린 페이지라면 사용자 지시형 에이전트를 기본 차단한다↗. 이는 웹의 약 5분의 1 앞단에서 트래픽을 대신 받는 네트워크 전역에서 시행된다 ⁶. 이 네트워크에서 크롤러 요청 가운데 AI 학습이 차지하는 비중은 이미 52%다. 2025년 봄 22%에서 치솟은 수치다 ⁶. 아마존은 메타의 뮤즈(Muse) 에이전트를 차단했고 구글과 오픈AI의 에이전트에 대한 차단 작업도 진행 중이다. 그 와중에 아마존은 이 에이전트들이 결코 보지 못할 광고로 연간 680억 달러를 챙기고 있다 ⁷.

무엇이 먼저일까

오픈AI는 환자 기록은 건드리지 않았으며 집계 통계와 파일명뿐이었다고↗ 밝혔다. 통보가 늦어진 것은 사실관계를 확인하는 데 시간이 걸렸기 때문이라는 설명이다 ³. 호주는 연방경찰 송치를 검토하는 동시에 AI 표준 법안도 마련 중이다 ⁴. 몇 달이 더 걸린다는 오픈AI의 조사가 먼저 결론날지, 다음 로그 분석이 먼저 터질지 지켜볼 일이다. 스토스는 “오픈AI가 분명 더 많이 알고 있을 것”이라고 말했다 ¹.