Bloomberg rückt FLUX in die Lieferkette des Kindesmissbrauchs – Black Forest Labs' eigene Studie stuft ein Modell als viertschlechtestes ein

Die Haftungsakte trägt BFLs eigene Unterschrift

Zu den Werkzeugen mit offenen Gewichten, die in den Fällen von Ermittlern gegen Kindesmissbrauch in den USA und Europa auftauchen, gehören laut einer Recherche vom 6. Oktober↗ auch die FLUX-Modelle des deutschen Unternehmens Black Forest LabsPVT~$4B — Black Forest Labs, private, latest valuation ~$4B – neben Stable Diffusion, dem Qwen von Alibaba▼−1.26% — Alibaba, down 1.26 percent today und dem Hunyuan von Tencent ¹. Das Detail, das dabei fast untergeht, stammt von BFL selbst: Eine gemeinsam mit der Sicherheitsfirma Cinder publizierte Studie stufte eines der Modelle des Labors als viertschlechtestes von sieben Open-Source-Bildmodellen ein, die auf Missbrauchsdarstellungen getestet wurden – „violative“, also regelverletzend, ist der Wortlaut –, und das Unternehmen erklärte, der Eintrag sei vor dem Release getestet, aber nicht öffentlich gemacht worden ¹.

Europäische Behörden verfolgen inzwischen mehr als 500 offene Modelle und Varianten, die in Missbrauchsfällen zum Einsatz kommen – vor zwei Jahren waren es weniger als ein Dutzend –, und eine frühere Führungskraft im Data-Science-Team von Thorn nennt offene Modelle den „primären Mechanismus“ für KI-generiertes Missbrauchsmaterial ¹. Die Meldungen mit KI-Bezug an die US-Meldestelle stiegen von 4.700 im Jahr 2023 auf mehr als 1,5 Millionen im Jahr 2025 ¹.

Der Sicherheitsregler ist eine reine Cloud-Funktion

Die gehostete API von BFL bietet eine Einstellung safety_tolerance an – von 0 (strengste Stufe) bis 4, Standardwert 2 ². Policy-Chef Ben Brooks sagt, das Labor sei „dazu entschlossen zu beweisen, dass visuelle Intelligenz offen und verantwortungsvoll zugleich sein kann“ – „Wunderwaffen“ gebe es nicht ¹. Der Download wird ohne den Regler ausgeliefert: Die offenen Gewichte von FLUX 3 sollen innerhalb weniger Wochen veröffentlicht werden ³, und ein Prompt auf einem privaten Laptop erreicht weder Protokoll noch Moderator ¹.

Das Gesetz ist kein Auffangnetz. Am 2. Oktober untersagte der Eighth Circuit dem Bundesstaat Minnesota↗, sein Gesetz gegen xAIPVT$200B — xAI, private, latest valuation $200B durchzusetzen, solange ein Berufungsverfahren läuft ⁴. Das Verbot von Nudification-Tools sieht Strafen von bis zu 500.000 Dollar pro Verstoß vor. Stability AI, einst Marktführer bei offenen Bildmodellen, ist bereits Beklagter in einer Klage, die dem Unternehmen vorwirft, sein Geschäft auf „das lukrative Potenzial sexuell expliziter Inhalte“ gebaut zu haben ¹.

Google dreht mit Preissenkungen das Messer in der Wunde

FLUX 3 Image kostet laut Preisliste 0,048 Dollar pro Bild in 1K-Auflösung↗, 0,100 Dollar bei 2K und 0,607 Dollar bei 4K ⁵; die Startaktion zum halben Preis endet am 8. Oktober um 8 Uhr pazifischer Zeit ³. Google antwortete am 6. Oktober↗ ⁶: Nano Banana 2.1 generiert auf der Standardstufe Bilder für 0,0336 Dollar in 1K-Auflösung und 0,113 Dollar bei 4K↗ ⁷ – bei 1K und 2K eine exakte Halbierung, im Batch-Betrieb noch einmal halbiert ⁷, während der Preis für Eingabe-Token auf 1,50 Dollar pro Million verdreifacht wurde ⁷. Bei 4K stieg die Zahl der Token pro Bild von 2.520 auf 3.780 ⁷ – die Preissenkung beträgt dort also ein Viertel, nicht die Hälfte.

Wer zahlt den Aufpreis für Offenheit?

BFL ist in privater Hand; sein Produkt ist Vertrauen auf Zählerbasis. Alphabet▼−0.44% — Alphabet, down 0.44 percent today verkauft die protokollierte, bewachte Alternative inzwischen unter dem Listenpreis des offenen Labors – und zwar auf jeder Stufe ⁵⁷. Nvidia▼−2.70% — Nvidia, down 2.70 percent today hatte im September die Übernahme von Hugging Face vereinbart, der Drehscheibe für offene Modelle, nachdem sich deren Nutzerbasis in diesem Jahr auf 13 Millionen nahezu verdoppelt hatte ¹. Das Unternehmen erbt damit dasselbe Ökosystem, das die Ermittler beschreiben.

Drei Termine entscheiden: der Ablauf der Startaktion am 8. Oktober ³, die Veröffentlichung der offenen FLUX-3-Gewichte samt der daran geknüpften Lizenz ³ sowie der 29. Oktober, an dem Google den alten Nano-Banana-2-Endpunkt abschaltet ⁶ und xAIs Berufungsbegründung fällig wird ⁴. Dieses Haus hatte am 2. Oktober geschrieben, BFLs Burggraben bei der Bearbeitungspräzision stehe kurz davor, verschenkt zu werden ⁸; die Haftungsakte war schneller.