Bloomberg place FLUX dans la chaîne de production des contenus pédocriminels ; la propre étude de Black Forest Labs classe l'un de ses modèles quatrième pire sur sept
L'enquête publiée le 6 octobre par Bloomberg place FLUX dans la chaîne de production des contenus pédocriminels, et une étude cosignée par BFL classe l'un de ses modèles, resté inédit, quatrième pire sur sept en matière de vulnérabilité aux images pédocriminelles. Le même jour, Google a tarifé son cloud, sous garde-fous et journalisé, en dessous du prix catalogue de FLUX 3.
Vincent Jiang · 3 min read
Le dossier de responsabilité porte la signature de BFL elle-même
Dans une enquête publiée le 6 octobre, les enquêteurs spécialisés dans les crimes sexuels sur mineurs, aux États-Unis comme en Europe, citent les modèles FLUX de l'allemand Black Forest Labs~$4B — Black Forest Labs, private, latest valuation ~$4B parmi les outils à poids ouverts (open weight) qui remontent dans leurs dossiers, aux côtés de Stable Diffusion, du Qwen d'Alibaba−1.26% — Alibaba, down 1.26 percent today et du Hunyuan de Tencent 1. Le détail enterré, lui, est signé BFL : une étude cosignée avec la société de sécurité Cinder y classe l'un de ses modèles au quatrième rang des plus « en infraction », sur sept modèles d'images open source testés pour les images pédocriminelles, et l'entreprise précise que cette version a été testée avant sa sortie et n'a pas été rendue publique 1.
Les autorités européennes recensent désormais plus de 500 modèles ouverts et variantes utilisés dans la pédocriminalité, contre moins d'une douzaine il y a deux ans, et un ancien responsable de la data science chez Thorn qualifie les modèles ouverts de « principal mécanisme » de production des contenus pédocriminels générés par l'IA 1. Les signalements à la ligne d'alerte américaine impliquant l'IA sont passés de 4 700 en 2023 à plus de 1,5 million en 2025 1.
Signalements liés à l'IA à la ligne d'alerte américaine : de 4 700 à 1,5 million en deux ans
Data
| Signalements liés à l'IA | |
|---|---|
| 2023 | 4,700 |
| 2024 | 67,000 |
| 2025 | 1,500,000 |
Le curseur de sécurité n'existe que sur l'offre hébergée
L'API hébergée de BFL expose un paramètre safety_tolerance, de 0 (le plus strict) à 4, avec 2 par défaut 2, et son responsable des politiques publiques, Ben Brooks, assure que le laboratoire est « déterminé à prouver que l'intelligence visuelle peut être à la fois ouverte et responsable », sans « solution miracle » 1. La version téléchargée, elle, est livrée sans compteur : les poids ouverts de FLUX 3 sont annoncés d'ici quelques semaines 3, et un prompt exécuté sur un ordinateur portable personnel ne laisse aucun journal d'activité et ne croise aucun modérateur 1.
La loi n'est pas le garde-fou. Le 2 octobre, la cour d'appel fédérale du huitième circuit a interdit au Minnesota d'appliquer contre xAI$200B — xAI, private, latest valuation $200B sa loi sur l'interdiction des outils de « nudification » — chaque infraction y est passible de sanctions pouvant aller jusqu'à 500 000 dollars — le temps de l'appel 4. Stability AI, l'ancien leader de l'image ouverte, est déjà visée par une plainte qui l'accuse d'avoir bâti son activité sur « le potentiel lucratif du contenu sexuellement explicite » 1.
Google enfonce le clou tarifaire
FLUX 3 Image est affiché à 0,048 dollar par image en 1K, à 0,100 dollar en 2K et à 0,607 dollar en 4K 5, et la promo de lancement à moitié prix s'achève le 8 octobre à 8 heures, heure du Pacifique 3. Google a répondu le 6 octobre 6 : le Nano Banana 2.1 génère une image pour 0,0336 dollar en 1K et 0,113 dollar en 4K sur le palier standard 7, soit exactement une division par deux en 1K et en 2K, puis une nouvelle division par deux en batch 7 — mais avec un tarif d'entrée triplé, à 1,50 dollar par million de tokens 7. En 4K, le nombre de tokens par image est passé de 2 520 à 3 780 7 : la baisse n'y est donc que d'un quart, pas de moitié.
Le cloud sous garde-fous et journalisé de Google passe sous le prix catalogue de FLUX 3 à toutes les résolutions
- FLUX 3 Image, catalogue
- FLUX 3, promo jusqu'au 8 oct.
- Nano Banana 2.1
Data
| FLUX 3 Image, catalogue | FLUX 3, promo jusqu'au 8 oct. | Nano Banana 2.1 | |
|---|---|---|---|
| 1K | $0.05 | $0.02 | $0.03 |
| 2K | $0.1 | $0.05 | $0.05 |
| 4K | $0.61 | $0.3 | $0.11 |
Qui paie la prime de l'ouverture
BFL n'est pas cotée ; son produit, c'est la confiance au compteur. Or Alphabet−0.44% — Alphabet, down 0.44 percent today vend désormais l'alternative journalisée et sous garde-fous moins cher que le prix catalogue du laboratoire ouvert, à tous les paliers 57. Nvidia−2.70% — Nvidia, down 2.70 percent today, qui s'est engagée en septembre à racheter la place de marché des modèles ouverts Hugging Face alors que sa base d'utilisateurs a presque doublé cette année, à 13 millions 1, hérite du même écosystème que celui que décrivent les enquêteurs.
Trois dates suffisent à trancher : l'échéance de la promo de lancement, le 8 octobre 3 ; la publication des poids de FLUX 3 et la licence qui l'accompagnera 3 ; et le 29 octobre, jour où Google retirera l'ancien point de terminaison (endpoint) de Nano Banana 2 6 et où le mémoire d'appel de xAI devra être déposé 4. Ce média voyait le 2 octobre le fossé défensif de BFL — sa précision en édition — sur le point d'être offert 8. Le dossier de responsabilité, lui, est arrivé avant.
Deepdive
AI-generated from this story and its cited sources. Not investment advice.
