--- title: "블룸버그, FLUX를 아동성착취 '공급망'에 지목…블랙포레스트랩스 자체 연구에서도 자사 모델 '7개 중 네 번째로 취약'" description: "블룸버그가 10월 6일 공개한 조사는 FLUX를 아동성착취 공급망 안에 놓았다. 블랙포레스트랩스(BFL)가 공동 발표한 연구는 아직 내놓지 않은 자사 모델 하나를 학대 이미지 취약성 기준 7개 모델 가운데 네 번째로 취약한 것으로 평가했다. 같은 날 구글은 로그와 안전장치를 갖춘 클라우드를 FLUX 3 정가보다 낮게 책정했다." publisher: "The Inference" section: "Safety" published: 2026-10-07T18:08:02.250Z modified: 2026-10-07T18:08:02.250Z canonical: https://theinference.org/article/bloomberg-puts-flux-in-the-child-abuse-supply-chain-black-forest-labs-own-study-ranked-a-model-fourth-worst/ko language: ko keywords: "AI Safety, Open Models, Image Generation, Regulation, Generative AI" --- # 블룸버그, FLUX를 아동성착취 '공급망'에 지목…블랙포레스트랩스 자체 연구에서도 자사 모델 '7개 중 네 번째로 취약' > 블룸버그가 10월 6일 공개한 조사는 FLUX를 아동성착취 공급망 안에 놓았다. 블랙포레스트랩스(BFL)가 공동 발표한 연구는 아직 내놓지 않은 자사 모델 하나를 학대 이미지 취약성 기준 7개 모델 가운데 네 번째로 취약한 것으로 평가했다. 같은 날 구글은 로그와 안전장치를 갖춘 클라우드를 FLUX 3 정가보다 낮게 책정했다. ## 책임을 묻는 '파일'에 BFL 자신의 서명이 들어 있다 미국과 유럽의 아동성범죄 수사관들은 자신들의 사건에서 등장하는 오픈 웨이트(open-weight) 도구로 독일 [블랙포레스트랩스](https://theinference.org/markets/companies/black-forest-labs)(BFL)의 FLUX 모델을 지목했다. 스테이블 [디퓨전](https://theinference.org/markets/companies/diffusion), [알리바바](https://theinference.org/markets/companies/alibaba)의 Qwen, 텐센트의 훈위안(Hunyuan)과 나란히다. [블룸버그가 10월 6일 공개한 조사](https://www.bloomberg.com/features/2026-open-source-ai-models-fuel-csam/) [1]의 내용이다. 이 조사에 파묻혀 있는 세부 사실 하나는 BFL 자신의 것이다. BFL이 안전업체 신더(Cinder)와 공동 발표한 연구는 학대 이미지 취약성을 테스트한 오픈소스 이미지 모델 7개 가운데 자사 모델 하나를 네 번째로 '위반(violative)' 사례가 많은 모델로 평가했다. 회사 측은 해당 모델은 출시 전에 테스트됐고 공개된 적이 없다고 밝혔다 [1]. 유럽 당국이 현재 아동학대에 쓰이는 오픈 모델과 변형 모델을 500개 넘게 추적하고 있다. 2년 전에는 10여 개에 불과했다. 쏜(Thorn)의 전 데이터과학 책임자는 오픈 모델을 AI로 생성된 학대물의 '핵심 수단(primary mechanism)'이라고 지목했다 [1]. 미국 아동착취 신고센터에 접수된 AI 관련 신고는 2023년 4700건에서 2025년 150만건을 넘어섰다 [1]. *Chart: **미국 신고센터 AI 관련 학대 신고, 2년 새 4700건→150만건** 미국 아동착취 신고센터에 접수된 AI 생성 물질 관련 신고 추이를 보여주는 선 그래프. 2023년 4700건에서 2025년 150만건 이상으로 급증했다.* *미국 실종·착취 아동센터(NCMEC)에 접수된 AI 생성 물질 관련 연간 신고 건수(2023~2025년). 자료: 블룸버그 조사(2026년 10월 6일). [1]* ## 안전 조절 다이얼은 호스팅 서비스에만 있다 BFL의 호스팅 API에는 'safety_tolerance'라는 안전 설정이 노출돼 있다. 0이 가장 엄격하고 4가 가장 느슨하며 기본값은 2다 [2]. 정책 총괄 벤 브룩스(Ben Brooks)는 "비주얼 인텔리전스가 열려 있으면서도 책임 있을 수 있음을 입증하는 데 헌신하고 있다"며 "묘책은 없다"고 말했다 [1]. 다운로드 버전에는 이 계량기가 빠져 있다. FLUX 3의 오픈 웨이트는 몇 주 안에 공개될 예정이며 [3], 개인 노트북에서 실행한 프롬프트는 로그에 남지 않고 검수자에게도 닿지 않는다 [1]. 법은 최후의 방어선이 아니다. 미네소타주의 누드 생성 도구 금지법에는 위반 1건당 최대 50만 달러의 벌칙이 붙어 있다. 그러나 [미국 제8연방항소법원은 10월 2일 미네소타주의 집행에 제동을 걸었다](https://www.lawcommentary.com/articles/elon-musk-xai-minnesota-ai-nudification-ban-blocked). 항소가 진행되는 동안 이 법을 [xAI](https://theinference.org/markets/companies/xai)에 적용하지 못하도록 한 것이다 [4]. 이전 세대 오픈 이미지 모델의 맹주였던 스테이빌리티 AI는 이미 피고로 앉아 있다. 이 회사가 '성적으로 노골적인 콘텐츠의 수익 잠재력' 위에 사업을 세웠다는 소송이다 [1]. ## 구글은 상처에 소금을 뿌렸다 [FLUX 3 Image의 정가는 1K 해상도 이미지 1장당 0.048달러](https://docs.bfl.ai/quick_start/pricing)다. 2K에서는 0.100달러, 4K에서는 0.607달러다 [5]. 출시 기념 반값 프로모션은 10월 8일 미 태평양 시간 오전 8시에 끝난다 [3]. [구글이 10월 6일 답을 내놨다](https://xenospectrum.com/en/nano-banana-image-model-comparison/) [6]. 나노바나나 2.1(Nano Banana 2.1)은 [표준 등급에서 1K 이미지 1장당 0.0336달러, 4K에서 0.113달러에 이미지를 뽑아낸다](https://ai.google.dev/gemini-api/docs/pricing) [7]. 1K와 2K 가격은 정확히 절반이고, 배치 처리 시에는 다시 절반으로 내려간다 [7]. 입력 토큰 요금은 100만 토큰당 1.50달러로 3배 인상됐다 [7]. 4K에서는 이미지당 토큰 수가 2,520개에서 3,780개로 늘었다 [7]. 그 결과 4K에서의 할인 폭은 절반이 아니라 4분의 1에 그친다. *Chart: **구글의 가드레일 클라우드, 모든 해상도에서 FLUX 3 정가 하회** 1K·2K·4K 해상도별로 FLUX 3 정가, FLUX 3 출시 기념 프로모션, 구글 나노바나나 2.1의 이미지 1장당 생성 단가를 비교한 막대그래프.* *생성 이미지 1장당 공시 가격(달러, 2026년 10월 7일 기준): BFL 호스팅 정가, BFL 출시 기념 반값 프로모션(10월 8일 미 태평양 시간 오전 8시 종료), 구글 표준 등급 이미지 출력. 구글은 입력·추론 토큰을 별도로 청구하고 BFL 요금에는 프롬프트와 참조 이미지가 포함된다. 픽셀 등급은 대략 비교 가능하다. [3][5][7]* ## '오픈 프리미엄'의 대가는 누가 치르나 BFL은 비상장 기업이다. 이 회사가 파는 상품은 종량제 신뢰다. [알파벳](https://theinference.org/markets/companies/alphabet)은 이제 로그가 남고 가드레일이 깔린 대안을 모든 등급에서 오픈랩 정가보다 싸게 팔고 있다 [5][7]. [엔비디아](https://theinference.org/markets/companies/nvidia)는 9월 오픈모델 허브 허깅페이스 인수에 합의했다. 올해 이용자가 1300만 명으로 거의 두 배 불어난 허깅페이스다 [1]. 엔비디아가 물려받는 것은 수사관들이 묘사한 바로 그 생태계다. 이 판의 결말을 가를 날짜는 세 개다. 출시 기념 프로모션이 끝나는 10월 8일 [3], FLUX 3 웨이트 공개와 그에 붙는 라이선스 [3], 그리고 10월 29일이다. 이날 구글은 기존 나노바나나 2 엔드포인트 서비스를 종료한다 [6]. xAI가 항소심 서면을 제출해야 하는 기한도 이날 만료된다 [4]. [본지는 10월 2일 BFL의 편집 정밀도 해자가 머지않아 그냥 풀려날 것이라고 짚었다](https://theinference.org/article/luma-s-hollywood-pitch-rests-on-a-borrowed-voice-and-a-model-layer-it-reportedly-rents) [8]. 그런데 그보다 먼저 도착한 것은 책임 서류철이었다. ## Takeaway 블룸버그의 조사는 FLUX를 실제 아동학대 사건과 연결했다. 블랙포레스트랩스가 공동 발표한 연구는 아직 공개하지 않은 자사 모델 하나를 학대 이미지 취약성 기준 7개 모델 중 네 번째로 취약한 것으로 평가했다. 같은 날 구글은 로그와 안전장치를 갖춘 클라우드를 모든 해상도 구간에서 FLUX 3 정가 아래로 책정했다. '오픈' 연구소가 파는 상품은 종량제 신뢰인데, 그 신뢰를 뒷받침할 자사 연구 결과가 오히려 신뢰를 깎아내리고 있다. ## Sources 1. [Bloomberg, "Child Predators Turn to Open-Source AI to Make Unlimited Illegal Images", 6 October 2026](https://www.bloomberg.com/features/2026-open-source-ai-models-fuel-csam/) 2. [Black Forest Labs documentation, "FLUX 3 Image", accessed 7 October 2026](https://docs.bfl.ai/flux_3/flux3_image_overview) 3. [Kingy.ai, "FLUX 3 Image Launches: Specs, Pricing, Benchmarks and Model Comparisons", checked 1 October 2026](https://kingy.ai/blog/flux-3-image-specs-benchmarks-comparison/) 4. [Law Commentary, "Elon Musk's xAI Wins Block of Minnesota's AI 'Nudification' Ban", 6 October 2026](https://www.lawcommentary.com/articles/elon-musk-xai-minnesota-ai-nudification-ban-blocked) 5. [Black Forest Labs documentation, "API Pricing", accessed 7 October 2026](https://docs.bfl.ai/quick_start/pricing) 6. [Xenospectrum, "Nano Banana 2.1 Halves Image Output Pricing: How It Compares With GPT Image 2.5 and FLUX 3", checked 7 October 2026](https://xenospectrum.com/en/nano-banana-image-model-comparison/) 7. [Google AI for Developers, "Gemini Developer API pricing", accessed 7 October 2026](https://ai.google.dev/gemini-api/docs/pricing) 8. [The Inference, "Luma's Hollywood pitch rests on a borrowed voice and a model layer it reportedly rents", 2 October 2026](https://theinference.org/article/luma-s-hollywood-pitch-rests-on-a-borrowed-voice-and-a-model-layer-it-reportedly-rents) --- 블룸버그, FLUX를 아동성착취 '공급망'에 지목…블랙포레스트랩스 자체 연구에서도 자사 모델 '7개 중 네 번째로 취약' — The Inference. Canonical: https://theinference.org/article/bloomberg-puts-flux-in-the-child-abuse-supply-chain-black-forest-labs-own-study-ranked-a-model-fourth-worst/ko