--- title: "ブルームバーグ報道、FLUXを児童虐待の供給網に ブラックフォレストラボ自身の研究は自社モデルを7モデル中4番目に悪いと評価" description: "米ブルームバーグが10月6日に公開した調査報道は、FLUXを児童性的虐待のサプライチェーンに位置づけた。ブラックフォレストラボ（Black Forest Labs、BFL）が安全企業のCinderと共著した研究は、未公開の自社モデルを虐待画像関連の脆弱性で7モデル中4番目に悪いと評価していた。同じ日、グーグルは保護とログ記録を備えたクラウドを、FLUX 3の定価を下回る価格で投入した。" publisher: "The Inference" section: "Safety" published: 2026-10-07T18:08:02.250Z modified: 2026-10-07T18:08:02.250Z canonical: https://theinference.org/article/bloomberg-puts-flux-in-the-child-abuse-supply-chain-black-forest-labs-own-study-ranked-a-model-fourth-worst/ja language: ja keywords: "AI Safety, Open Models, Image Generation, Regulation, Generative AI" --- # ブルームバーグ報道、FLUXを児童虐待の供給網に ブラックフォレストラボ自身の研究は自社モデルを7モデル中4番目に悪いと評価 > 米ブルームバーグが10月6日に公開した調査報道は、FLUXを児童性的虐待のサプライチェーンに位置づけた。ブラックフォレストラボ（Black Forest Labs、BFL）が安全企業のCinderと共著した研究は、未公開の自社モデルを虐待画像関連の脆弱性で7モデル中4番目に悪いと評価していた。同じ日、グーグルは保護とログ記録を備えたクラウドを、FLUX 3の定価を下回る価格で投入した。 ## 責任ファイルに刻まれたBFL自身の署名 [10月6日付のブルームバーグの調査報道](https://www.bloomberg.com/features/2026-open-source-ai-models-fuel-csam/) [1] によると、米国と欧州の児童性犯罪捜査官が、事件で見つかるオープンウェイト（公開重み）のツールとして、ドイツの[ブラックフォレストラボ](https://theinference.org/markets/companies/black-forest-labs)（Black Forest Labs、BFL）のFLUXモデルを名指しした。ステーブル[ディフュージョン](https://theinference.org/markets/companies/diffusion)、[アリババ](https://theinference.org/markets/companies/alibaba)のQwen、テンセントのHunyuanと並ぶ名前である。埋もれていた細部は、実はBFL自身のものだ。同社が安全企業のCinderと共著した研究は、虐待画像をめぐる検証で7つのオープンソース画像モデルのうち自社モデルを4番目に「違反」が出やすいと位置づけた。同社は、このモデルはリリース前にテストしたもので、公開していないと説明した [1]。 欧州の当局が児童虐待への悪用として追跡するオープンモデルと派生版は現在500を超え、2年前の10個足らずから急増している。児童虐待対策団体Thornの元データサイエンス責任者は、オープンモデルをAI生成虐待コンテンツの「主要なメカニズム」と呼ぶ [1]。米国の通報窓口に寄せられたAI関連の通報は、2023年の4700件から2025年には150万件超に達した [1]。 *Chart: **米国通報窓口へのAI関連の虐待通報、2年で4700件から150万件超へ** 米国の児童搾取通報窓口に寄せられたAI生成コンテンツ関連通報の推移を示す折れ線グラフ。2023年の4700件から2025年の150万件超へ増加* *全米行方不明・搾取児童センター（NCMEC）へのAI生成コンテンツを含む年間通報件数（2023～25年）。出典：ブルームバーグの調査報道（2026年10月6日） [1]* ## 安全のダイヤルはホスト版だけの機能 BFLのホスト型APIには、safety_tolerance（安全許容度）という設定が備わっている。0が最も厳格で4が最も緩く、既定値は2だ [2]。ポリシー責任者のベン・ブルックス氏は、同社が「視覚知能はオープンでありながら責任も果たせることを証明する」という姿勢を示しつつ、「特効薬はない」とも認めた [1]。ダウンロード版に、このメーターは付いてこない。FLUX 3のオープンウェイトは数週間以内の公開が約束されている [3]。個人のノートパソコンで実行したプロンプトは、ログにも、監視する人にも届かない [1]。 法は最後の砦ではない。10月2日、[米連邦第8巡回控訴裁判所はミネソタ州のヌード化ツール禁止法をめぐり](https://www.lawcommentary.com/articles/elon-musk-xai-minnesota-ai-nudification-ban-blocked)、控訴審が続く間、[xAI](https://theinference.org/markets/companies/xai)に対する同法の適用を差し止めた [4]。この州法は違反1件あたり最大50万ドルの罰則を科す。かつてオープン画像モデルの雄だったStability AIは、同社が「性的に露骨なコンテンツが持つ収益の潜在力」の上に事業を築いたと主張する訴訟で、すでに被告になっている [1]。 ## グーグル、値下げで傷口を深める [FLUX 3 Imageの定価は1K画像1枚あたり0.048ドル](https://docs.bfl.ai/quick_start/pricing)、2Kが0.100ドル、4Kが0.607ドル [5]。提供開始記念の半額プロモは10月8日午前8時（米太平洋時間）に終了する [3]。[グーグルは10月6日に応戦した](https://xenospectrum.com/en/nano-banana-image-model-comparison/) [6]。ナノバナナ（Nano Banana）2.1は、標準ティアで[1K画像1枚あたり0.0336ドル、4Kは0.113ドル](https://ai.google.dev/gemini-api/docs/pricing)で生成できる [7]。1Kと2Kではちょうど半分の価格になり、バッチ処理ではさらに半分になる [7]。その一方で、入力価格は100万トークンあたり1.50ドルと3倍に引き上げた [7]。4Kでは1枚あたりのトークン数が2,520から3,780に増えた [7]。つまりこの値下げは半分ではなく、4分の1だ。 *Chart: **グーグルのガード付きクラウド、全解像度でFLUX 3の定価を下回る** 1K・2K・4Kの各解像度で、FLUX 3の定価、FLUX 3の提供開始記念プロモ、グーグルのナノバナナ2.1の生成画像1枚あたり価格を比較する棒グラフ。* *生成画像1枚あたりの公表価格（米ドル、2026年10月7日時点）：BFLホスト版の定価、BFL提供開始記念の半額プロモ（10月8日午前8時・米太平洋時間で終了）、グーグル標準ティアの画像出力。グーグルは入力と思考トークンを別課金、BFLはプロンプトと参照画像を込み。解像度のティアはほぼ同等とみなせる。 [3][5][7]* ## 「オープン」のプレミアムは誰が払うのか BFLは非公開企業だ。その製品は、従量で課金される「信頼」そのものである。[アルファベット（Alphabet）](https://theinference.org/markets/companies/alphabet)は今、ログとガードを備えた代替を、どのティアでもオープンラボの定価より安く売っている [5][7]。Hugging Faceの利用者数は今年、ほぼ2倍の1,300万人に膨らんだ [1]。9月にこのオープンモデルの集散地の買収で合意した[エヌビディア（Nvidia）](https://theinference.org/markets/companies/nvidia)が受け継ぐのは、捜査当局が語るのと同じ生態系だ。 決着をつけるのは3つの日付だ。10月8日のプロモ終了 [3]、FLUX 3のオープンウェイト公開と、それに付くライセンス [3]、そして10月29日。この日、グーグルは旧「ナノバナナ2」のエンドポイントを廃止し [6]、xAIの控訴審ブリーフも提出期限を迎える [4]。[本誌は10月2日、BFLの編集精度という堀がまもなく無償で手放されると報じた](https://theinference.org/article/luma-s-hollywood-pitch-rests-on-a-borrowed-voice-and-a-model-layer-it-reportedly-rents) [8]。先に届いたのは、責任のファイルの方だった。 ## Takeaway ブルームバーグの調査報道は、FLUXを現実の虐待事例と結びつけた。BFLが共著した研究は、未公開の自社モデルを虐待画像関連の脆弱性で7モデル中4番目に悪いと評価していた。同じ日、グーグルはログ記録と保護を備えたクラウドを、全プランでFLUX 3の定価を下回る価格に据えた。オープンを掲げるこの会社の商品は、メーターで測って売る「信頼」だ。だが、自社の証拠がその信頼を掘り崩している。 ## Sources 1. [Bloomberg, "Child Predators Turn to Open-Source AI to Make Unlimited Illegal Images", 6 October 2026](https://www.bloomberg.com/features/2026-open-source-ai-models-fuel-csam/) 2. [Black Forest Labs documentation, "FLUX 3 Image", accessed 7 October 2026](https://docs.bfl.ai/flux_3/flux3_image_overview) 3. [Kingy.ai, "FLUX 3 Image Launches: Specs, Pricing, Benchmarks and Model Comparisons", checked 1 October 2026](https://kingy.ai/blog/flux-3-image-specs-benchmarks-comparison/) 4. [Law Commentary, "Elon Musk's xAI Wins Block of Minnesota's AI 'Nudification' Ban", 6 October 2026](https://www.lawcommentary.com/articles/elon-musk-xai-minnesota-ai-nudification-ban-blocked) 5. [Black Forest Labs documentation, "API Pricing", accessed 7 October 2026](https://docs.bfl.ai/quick_start/pricing) 6. [Xenospectrum, "Nano Banana 2.1 Halves Image Output Pricing: How It Compares With GPT Image 2.5 and FLUX 3", checked 7 October 2026](https://xenospectrum.com/en/nano-banana-image-model-comparison/) 7. [Google AI for Developers, "Gemini Developer API pricing", accessed 7 October 2026](https://ai.google.dev/gemini-api/docs/pricing) 8. [The Inference, "Luma's Hollywood pitch rests on a borrowed voice and a model layer it reportedly rents", 2 October 2026](https://theinference.org/article/luma-s-hollywood-pitch-rests-on-a-borrowed-voice-and-a-model-layer-it-reportedly-rents) --- ブルームバーグ報道、FLUXを児童虐待の供給網に ブラックフォレストラボ自身の研究は自社モデルを7モデル中4番目に悪いと評価 — The Inference. Canonical: https://theinference.org/article/bloomberg-puts-flux-in-the-child-abuse-supply-chain-black-forest-labs-own-study-ranked-a-model-fourth-worst/ja