Bloomberg põe o FLUX na cadeia do abuso infantil; estudo da própria Black Forest Labs aponta um modelo como quarto pior

O dossiê de responsabilidade traz a assinatura da própria BFL

Investigadores de crimes sexuais contra crianças nos EUA e na Europa citaram os modelos FLUX da alemã Black Forest LabsPVT~$4B — Black Forest Labs, private, latest valuation ~$4B entre as ferramentas de pesos abertos que surgem em seus casos, ao lado do Stable Diffusion, do Qwen, da Alibaba▼−1.26% — Alibaba, down 1.26 percent today, e do Hunyuan, da Tencent, em uma apuração de 6 de outubro↗ ¹. O detalhe enterrado no fundo da matéria é da própria BFL: um estudo copublicado com a empresa de segurança Cinder classificou um de seus modelos como o quarto mais "violatório" entre sete modelos de imagem de código aberto testados quanto a imagens de abuso, e a companhia disse que essa entrada foi testada antes do lançamento e não chegou a ser divulgada ¹.

As autoridades europeias hoje acompanham mais de 500 modelos abertos e variantes usados em abuso infantil, contra menos de uma dúzia há dois anos, e um ex-líder de ciência de dados da Thorn chama os modelos abertos de "mecanismo primário" do material de abuso gerado por IA ¹. As denúncias ligadas à IA no canal norte-americano de denúncias saltaram de 4.700, em 2023, para mais de 1,5 milhão, em 2025 ¹.

O medidor de segurança é um recurso do serviço hospedado

A API hospedada da BFL expõe o parâmetro safety_tolerance (tolerância de segurança), que vai de 0, o mais rígido, a 4, com 2 como padrão ², e o chefe de políticas, Ben Brooks, diz que o laboratório está "comprometido em provar que a inteligência visual pode ser aberta e responsável ao mesmo tempo", com a ressalva de que "não há balas de prata" ¹. O download chega sem o medidor: os pesos abertos do FLUX 3 estão prometidos para as próximas semanas ³, e um prompt rodado num notebook particular não deixa registro nem passa por moderador ¹.

A lei não é a rede de proteção. Em 2 de outubro, a Corte de Apelações do Oitavo Circuito barrou Minnesota↗ de aplicar contra a xAIPVT$200B — xAI, private, latest valuation $200B a lei que proíbe ferramentas de nudificação (nudification), com penalidades de até US$ 500 mil por violação, enquanto tramita o recurso ⁴. A Stability AI, ex-líder dos modelos abertos de imagem, já figura como ré em uma ação que alega que a empresa construiu seu negócio sobre "o lucrativo potencial de conteúdo sexualmente explícito" ¹.

Google torce a faca na ferida

O FLUX 3 Image tem preço de tabela de US$ 0,048 por imagem de 1K↗, US$ 0,100 em 2K e US$ 0,607 em 4K ⁵, e a promoção de lançamento, pela metade do preço, termina em 8 de outubro, às 8h no fuso do Pacífico ³. O Google respondeu em 6 de outubro↗ ⁶: o Nano Banana 2.1 gera a imagem de 1K por US$ 0,0336 e a de 4K por US$ 0,113 no nível padrão↗ ⁷ — um corte exato pela metade nas resoluções 1K e 2K, que cai à metade de novo em lote ⁷, com a entrada triplicada, para US$ 1,50 por milhão de tokens ⁷. Na 4K, o número de tokens por imagem subiu de 2.520 para 3.780 ⁷; por isso, o corte é de um quarto, não de metade.

Quem paga o prêmio do laboratório aberto

A BFL é privada; seu produto é confiança no medidor. A Alphabet▼−0.44% — Alphabet, down 0.44 percent today agora vende a alternativa vigiada e registrada abaixo do preço de tabela do laboratório aberto, em todos os níveis ⁵⁷. A Nvidia▼−2.70% — Nvidia, down 2.70 percent today, que acertou em setembro a compra da Hugging Face — a central de modelos abertos, cuja base de usuários quase dobrou neste ano, para 13 milhões ¹ —, herda o mesmo ecossistema que os investigadores descrevem.

Três datas decidem a questão: o fim da promoção em 8 de outubro ³; o lançamento dos pesos do FLUX 3 e a licença que os acompanha ³; e 29 de outubro, quando o Google desativa o antigo endpoint do Nano Banana 2 ⁶ e vence o prazo da petição de apelação do xAI ⁴. Este veículo afirmou, em 2 de outubro, que o fosso de precisão de edição da BFL estava prestes a ser distribuído de graça ⁸; o dossiê de responsabilidade chegou antes.