ブルームバーグ報道、FLUXを児童虐待の供給網に ブラックフォレストラボ自身の研究は自社モデルを7モデル中4番目に悪いと評価

責任ファイルに刻まれたBFL自身の署名

10月6日付のブルームバーグの調査報道↗ ¹ によると、米国と欧州の児童性犯罪捜査官が、事件で見つかるオープンウェイト（公開重み）のツールとして、ドイツのブラックフォレストラボPVT~$4B — ブラックフォレストラボ, private, latest valuation ~$4B（Black Forest Labs、BFL）のFLUXモデルを名指しした。ステーブルディフュージョン、アリババ▼−1.26% — アリババ, down 1.26 percent todayのQwen、テンセントのHunyuanと並ぶ名前である。埋もれていた細部は、実はBFL自身のものだ。同社が安全企業のCinderと共著した研究は、虐待画像をめぐる検証で7つのオープンソース画像モデルのうち自社モデルを4番目に「違反」が出やすいと位置づけた。同社は、このモデルはリリース前にテストしたもので、公開していないと説明した ¹。

欧州の当局が児童虐待への悪用として追跡するオープンモデルと派生版は現在500を超え、2年前の10個足らずから急増している。児童虐待対策団体Thornの元データサイエンス責任者は、オープンモデルをAI生成虐待コンテンツの「主要なメカニズム」と呼ぶ ¹。米国の通報窓口に寄せられたAI関連の通報は、2023年の4700件から2025年には150万件超に達した ¹。

安全のダイヤルはホスト版だけの機能

BFLのホスト型APIには、safety_tolerance（安全許容度）という設定が備わっている。0が最も厳格で4が最も緩く、既定値は2だ ²。ポリシー責任者のベン・ブルックス氏は、同社が「視覚知能はオープンでありながら責任も果たせることを証明する」という姿勢を示しつつ、「特効薬はない」とも認めた ¹。ダウンロード版に、このメーターは付いてこない。FLUX 3のオープンウェイトは数週間以内の公開が約束されている ³。個人のノートパソコンで実行したプロンプトは、ログにも、監視する人にも届かない ¹。

法は最後の砦ではない。10月2日、米連邦第8巡回控訴裁判所はミネソタ州のヌード化ツール禁止法をめぐり↗、控訴審が続く間、xAIPVT$200B — xAI, private, latest valuation $200Bに対する同法の適用を差し止めた ⁴。この州法は違反1件あたり最大50万ドルの罰則を科す。かつてオープン画像モデルの雄だったStability AIは、同社が「性的に露骨なコンテンツが持つ収益の潜在力」の上に事業を築いたと主張する訴訟で、すでに被告になっている ¹。

グーグル、値下げで傷口を深める

FLUX 3 Imageの定価は1K画像1枚あたり0.048ドル↗、2Kが0.100ドル、4Kが0.607ドル ⁵。提供開始記念の半額プロモは10月8日午前8時（米太平洋時間）に終了する ³。グーグルは10月6日に応戦した↗ ⁶。ナノバナナ（Nano Banana）2.1は、標準ティアで1K画像1枚あたり0.0336ドル、4Kは0.113ドル↗で生成できる ⁷。1Kと2Kではちょうど半分の価格になり、バッチ処理ではさらに半分になる ⁷。その一方で、入力価格は100万トークンあたり1.50ドルと3倍に引き上げた ⁷。4Kでは1枚あたりのトークン数が2,520から3,780に増えた ⁷。つまりこの値下げは半分ではなく、4分の1だ。

「オープン」のプレミアムは誰が払うのか

BFLは非公開企業だ。その製品は、従量で課金される「信頼」そのものである。アルファベット（Alphabet）▼−0.44% — アルファベット（Alphabet）, down 0.44 percent todayは今、ログとガードを備えた代替を、どのティアでもオープンラボの定価より安く売っている ⁵⁷。Hugging Faceの利用者数は今年、ほぼ2倍の1,300万人に膨らんだ ¹。9月にこのオープンモデルの集散地の買収で合意したエヌビディア（Nvidia）▼−2.70% — エヌビディア（Nvidia）, down 2.70 percent todayが受け継ぐのは、捜査当局が語るのと同じ生態系だ。

決着をつけるのは3つの日付だ。10月8日のプロモ終了 ³、FLUX 3のオープンウェイト公開と、それに付くライセンス ³、そして10月29日。この日、グーグルは旧「ナノバナナ2」のエンドポイントを廃止し ⁶、xAIの控訴審ブリーフも提出期限を迎える ⁴。本誌は10月2日、BFLの編集精度という堀がまもなく無償で手放されると報じた ⁸。先に届いたのは、責任のファイルの方だった。