Bloomberg включил FLUX в цепочку сексуальной эксплуатации детей; собственное исследование Black Forest Labs поставило её модель на четвёртое место с конца
Расследование Bloomberg от 6 октября вписывает FLUX в цепочку создания материалов о сексуальной эксплуатации детей, а подготовленное при участии BFL исследование отдало одной из её ещё не выпущенных моделей четвёртое место с конца из семи по уязвимостям к генерации запрещённых изображений. В тот же день Google назначил на защищённое, логируемое облако цены ниже прайс-листа на FLUX 3.
Vincent Jiang · 3 min read
В досье об ответственности — подпись самой BFL
В опубликованном 6 октября расследовании 1 следователи по сексуальным преступлениям против детей в США и Европе называют модели FLUX немецкой Black Forest Labs~$4B — Black Forest Labs, private, latest valuation ~$4B в числе инструментов с открытыми весами, фигурирующих в их делах, — наряду со Stable Diffusion, Qwen от Alibaba−1.26% — Alibaba, down 1.26 percent today и Hunyuan от Tencent. Самая неудобная деталь исходит от самой BFL: в соавторстве со специализирующейся на безопасности фирмой Cinder компания опубликовала исследование, где одна из её моделей заняла четвёртое место по «нарушениям» среди семи открытых моделей генерации изображений, протестированных на создание запрещённого контента; по словам компании, эту модель тестировали до релиза и публично не выкладывали 1.
Европейские ведомства отслеживают уже более 500 открытых моделей и их вариантов, используемых для эксплуатации детей, — два года назад таких насчитывалось меньше десятка. Бывший руководитель направления data science организации Thorn называет открытые модели «основным механизмом» создания с помощью ИИ материалов о сексуальной эксплуатации детей 1. Число обращений на американскую горячую линию, связанных с ИИ, выросло с 4,7 тыс. в 2023 году до более чем 1,5 млн в 2025-м 1.
Число связанных с ИИ обращений об эксплуатации детей на американской горячей линии выросло за два года с 4,7 тыс. до 1,5 млн
Data
| Обращения, связанные с ИИ | |
|---|---|
| 2023 | 4,700 |
| 2024 | 67,000 |
| 2025 | 1,500,000 |
Шкала безопасности — функция облачной версии
В облачном API BFL предусмотрен параметр safety_tolerance — от 0 (максимальная строгость) до 4; по умолчанию — 2 2. Руководитель политического направления компании Бен Брукс заявляет, что лаборатория «привержена тому, чтобы доказать: визуальный интеллект может быть одновременно открытым и ответственным», отмечая, что «серебряной пули не существует» 1. В скачиваемой версии этой шкалы нет: открытые веса FLUX 3 обещаны в течение нескольких недель 3, а запрос, выполненный на личном ноутбуке, не попадает ни в логи, ни к модератору 1.
Рассчитывать на закон не приходится. 2 октября Апелляционный суд восьмого округа запретил Миннесоте применять к xAI$200B — xAI, private, latest valuation $200B закон штата против инструментов генерации нюд-изображений (nudification tools) со штрафами до $500 тыс. за каждое нарушение — пока идёт апелляция 4. Stability AI, бывший лидер открытой генерации изображений, уже является ответчиком по иску, где утверждается, что компания построила свой бизнес на «доходном потенциале сексуально откровенного контента» 1.
Google сыплет соль на рану
Цены FLUX 3 Image по прайс-листу — $0,048 за изображение 1K, $0,100 за 2K и $0,607 за 4K 5; акция к запуску со скидкой 50% действует до 8 октября, 8:00 по тихоокеанскому времени 3. Ответ Google последовал 6 октября 6: Nano Banana 2.1 на стандартном тарифе генерирует изображение 1K за $0,0336, а 4K — за $0,113 7, на 1K и 2K это ровно вдвое дешевле, в пакетном режиме — ещё вдвое 7; при этом входные токены подорожали втрое — до $1,50 за 1 млн 7. На 4K число токенов на изображение выросло с 2 520 до 3 780 7, так что снижение там — четверть, а не половина.
Облако Google с ограничителями дешевле FLUX 3 по прайс-листу при любом разрешении
- FLUX 3 Image, прайс-лист
- FLUX 3, промо до 8 октября
- Nano Banana 2.1
Data
| FLUX 3 Image, прайс-лист | FLUX 3, промо до 8 октября | Nano Banana 2.1 | |
|---|---|---|---|
| 1K | $0.05 | $0.02 | $0.03 |
| 2K | $0.1 | $0.05 | $0.05 |
| 4K | $0.61 | $0.3 | $0.11 |
Кто платит за наценку открытости
BFL — частная компания; её продукт — доверие по счётчику. Alphabet−0.44% — Alphabet, down 0.44 percent today теперь продаёт альтернативу с логированием и ограничителями дешевле прайс-листа открытой лаборатории на каждом уровне 57. Nvidia−2.70% — Nvidia, down 2.70 percent today, договорившаяся в сентябре о покупке биржи открытых моделей Hugging Face (число пользователей платформы за этот год почти удвоилось — до 13 млн 1), наследует ту же экосистему, которую описывают следователи.
Всё решат три даты: окончание акции к запуску 8 октября 3, выпуск открытых весов FLUX 3 и лицензия, под которой они выйдут 3, и 29 октября, когда Google отключит старый эндпоинт Nano Banana 2 6, а у xAI истечёт срок подачи апелляционной записки 4. Ещё 2 октября наше издание писало, что BFL вот-вот отдаст даром свой «ров» точности редактирования 8; досье об ответственности пришло первым.
Deepdive
AI-generated from this story and its cited sources. Not investment advice.
