Bloomberg sitúa a FLUX en la cadena de suministro del abuso infantil; el propio estudio de Black Forest Labs deja a uno de sus modelos en el cuarto peor puesto
La investigación que Bloomberg publicó el 6 de octubre sitúa a FLUX en la cadena de suministro del abuso sexual infantil, y un estudio copublicado por BFL deja a uno de sus propios modelos, aún sin lanzar, en el cuarto peor puesto de siete en vulnerabilidad ante imágenes de abuso. El mismo día, Google puso precio a su nube vigilada y con registro por debajo de la tarifa oficial de FLUX 3.
Vincent Jiang · 3 min read
El expediente de responsabilidad lleva la firma de la propia BFL
Los investigadores de delitos sexuales contra menores de EE UU y Europa citan los modelos FLUX de la alemana Black Forest Labs entre las herramientas de pesos abiertos (open weights) que aparecen en sus casos, junto a Stable Diffusion, el Qwen de Alibaba y el Hunyuan de Tencent, según una investigación publicada el 6 de octubre 1. El dato enterrado procede de la propia BFL: un estudio que copublicó con la firma de seguridad Cinder clasifica a uno de sus modelos como el cuarto más «infractor» de los siete modelos de imagen de código abierto sometidos a pruebas con imágenes de abuso, y la empresa ha señalado que esa entrada se probó antes del lanzamiento y no se hizo pública 1.
Las autoridades europeas siguen ahora la pista de más de 500 modelos abiertos y variantes empleados en abusos de menores, frente a menos de una decena hace dos años, y un antiguo responsable de ciencia de datos de Thorn califica los modelos abiertos de «mecanismo principal» del material de abuso generado con IA 1. Las denuncias con vínculo con la IA ante la línea estadounidense pasaron de 4.700 en 2023 a más de 1,5 millones en 2025 1.
Las denuncias vinculadas a la IA ante la línea de EE UU pasaron de 4.700 a 1,5 millones en dos años
Data
| Denuncias vinculadas a la IA | |
|---|---|
| 2023 | 4,700 |
| 2024 | 67,000 |
| 2025 | 1,500,000 |
El dial de seguridad es una función del servicio en la nube
La API alojada de BFL expone un parámetro safety_tolerance (tolerancia de seguridad), de 0 —el más estricto— a 4, con 2 como valor por defecto 2, y su responsable de políticas, Ben Brooks, asegura que el laboratorio está «comprometido con demostrar que la inteligencia visual puede ser a la vez abierta y responsable» y que «no hay soluciones mágicas» 1. La descarga llega sin contador: BFL promete publicar los pesos abiertos de FLUX 3 en cuestión de semanas 3, y un prompt lanzado en un portátil privado no deja registro ni lo revisa ningún moderador 1.
La ley no es la red de seguridad. El 2 de octubre, la Corte de Apelaciones del Octavo Circuito bloqueó a Minnesota: mientras se resuelve el recurso, el Estado no puede aplicar contra xAI su prohibición de las herramientas de «nudificación», que prevé penas de hasta 500.000 dólares por infracción 4. Stability AI, hasta ahora líder de la imagen abierta, ya figura como demandada en un pleito que alega que levantó su negocio sobre «el lucrativo potencial del contenido sexualmente explícito» 1.
Google rebaja los precios y ahonda la herida
FLUX 3 Image tiene una tarifa oficial de 0,048 dólares por imagen a 1K, de 0,100 a 2K y de 0,607 a 4K 5, y la promoción de lanzamiento a mitad de precio termina el 8 de octubre a las 8.00, hora del Pacífico 3. Google respondió el 6 de octubre 6: Nano Banana 2.1 genera a 0,0336 dólares por imagen a 1K y a 0,113 a 4K en el nivel estándar 7, una rebaja exactamente a la mitad en 1K y 2K que se vuelve a dividir por dos en el modo por lotes 7, con la entrada triplicada hasta 1,50 dólares por millón de tokens 7. En 4K, el número de tokens por imagen pasó de 2.520 a 3.780 7, de modo que esa rebaja es de un cuarto, no de la mitad.
La nube vigilada de Google queda por debajo de la tarifa oficial de FLUX 3 en todas las resoluciones
- FLUX 3 Image, tarifa oficial
- FLUX 3, promoción hasta el 8 oct
- Nano Banana 2.1
Data
| FLUX 3 Image, tarifa oficial | FLUX 3, promoción hasta el 8 oct | Nano Banana 2.1 | |
|---|---|---|---|
| 1K | $0.05 | $0.02 | $0.03 |
| 2K | $0.1 | $0.05 | $0.05 |
| 4K | $0.61 | $0.3 | $0.11 |
¿Quién paga el sobreprecio de lo abierto?
BFL es una empresa privada; su producto es la confianza con contador. Alphabet ya vende la alternativa vigilada y con registro por debajo de la tarifa oficial del laboratorio abierto en todos los niveles 57. Nvidia, que acordó en septiembre comprar el gran repositorio de modelos abiertos Hugging Face mientras su base de usuarios casi se duplicaba este año, hasta los 13 millones 1, hereda el mismo ecosistema que describen los investigadores.
Tres fechas zanjan la cuestión: el fin de la promoción de lanzamiento, el 8 de octubre 3; la publicación de los pesos abiertos de FLUX 3 y de la licencia que los acompañe 3; y el 29 de octubre, cuando Google retire el antiguo endpoint de Nano Banana 2 6 y venza el plazo para el escrito de apelación de xAI 4. Este medio advirtió el 2 de octubre que el foso defensivo de BFL en la edición de precisión estaba a punto de regalarse 8; el expediente de responsabilidad llegó primero.
Deepdive
AI-generated from this story and its cited sources. Not investment advice.
