彭博社将FLUX列入儿童性虐待材料供应链;黑森林实验室自家研究把一款模型排到倒数第四
彭博社10月6日的调查报道把FLUX置于儿童性虐待材料供应链之中;黑森林实验室联合发布的一项研究显示,其一款尚未发布的模型在虐待图像漏洞测试中,位列七款受测开源图像模型的倒数第四。同一天,谷歌把有安全护栏、留存日志的云端服务定价压到FLUX 3的标价之下。
Vincent Jiang · 3 min read
责任档案上,签着BFL自己的名字
在彭博社10月6日的一篇调查报道1中,美国和欧洲的儿童性犯罪调查人员将德国黑森林实验室(Black Forest Labs)的FLUX系列模型,与Stable Diffusion、阿里巴巴的通义千问、腾讯的混元一道,列入了他们案件中出现的开放权重工具名单。埋在报道深处的细节,恰是BFL自家的:该公司与安全公司Cinder联合发表的一项研究显示,在七款接受虐待图像测试的开源图像模型中,其一款模型的“违规”程度排名第四;公司称,该参评条目测试于发布之前,且未予公开1。
欧洲有关部门目前追踪到超过500个被用于儿童虐待的开源模型及变体,两年前还不足12个;美国儿童保护组织Thorn的前数据科学负责人称,开源模型已成为AI生成虐待材料的“主要机制”1。提交至美国儿童剥削举报热线的涉AI举报量,则从2023年的4700件增至2025年的超过150万件1。
两年间,美国举报热线涉AI的虐待举报从4700件增至150万件
Data
| 涉AI举报量 | |
|---|---|
| 2023年 | 4,700 |
| 2024年 | 67,000 |
| 2025年 | 1,500,000 |
安全旋钮,只装在托管服务上
BFL的托管API提供一个名为safety_tolerance(安全容忍度)的设置,取值从0(最严格)到4,默认值为22。政策负责人本·布鲁克斯(Ben Brooks)表示,实验室“致力于证明视觉智能可以既开放又负责任”,并强调“没有银弹”1。下载版则不带这块“表”:公司承诺在数周内放出FLUX 3的开放权重3;在私人笔记本电脑上运行一条提示词,既留不下日志,也遇不上任何审核员1。
法律兜不了底。10月2日,美国第八巡回上诉法院裁定,在上诉期间,明尼苏达州不得对xAI执行其禁止“裸体化”(nudification)工具的法律——该法对每次违规最高可处50万美元罚款4。此前开放图像模型的龙头Stability AI已坐上被告席,被控把生意建立在“色情内容的暴利潜力”之上1。
谷歌降价,往伤口上再捅一刀
FLUX 3 Image标价为每张1K图像0.048美元,2K档0.100美元,4K档0.607美元5;上市半价促销将于10月8日太平洋时间上午8时结束3。谷歌10月6日应战6:Nano Banana 2.1标准档下每张1K图像0.0336美元,4K档0.113美元7,1K和2K档恰好砍到FLUX 3标价的一半,批量模式再打对折7;输入价格则涨至每百万token 1.50美元,是原来的三倍7。4K档每张图像的token数从2520增至37807,因此这一档实际只降了四分之一,不是一半。
谷歌带护栏的云端,每一档分辨率都低于FLUX 3标价
- FLUX 3 Image 标价
- FLUX 3 促销价(至10月8日)
- Nano Banana 2.1
Data
| FLUX 3 Image 标价 | FLUX 3 促销价(至10月8日) | Nano Banana 2.1 | |
|---|---|---|---|
| 1K | $0.05 | $0.02 | $0.03 |
| 2K | $0.1 | $0.05 | $0.05 |
| 4K | $0.61 | $0.3 | $0.11 |
开放的溢价,谁来买单?
BFL是一家私营公司;它的产品,是按表计费的信任。如今,谷歌母公司Alphabet出售有日志、有护栏的替代方案,每一档的价格都低于这家开放实验室的标价57。今年9月,英伟达同意收购开放模型集散地Hugging Face,后者的用户基数今年几乎翻番,增至1300万1。英伟达接手的,正是调查人员所描述的那套生态。
三个日期足以一锤定音:10月8日,上市半价促销到期3;FLUX 3权重发布及其附带许可证3;10月29日,谷歌将下线旧版Nano Banana 2接口6,xAI也须在同日提交上诉辩护状4。本刊10月2日曾断言,BFL的精准编辑护城河即将拱手送出8;结果,责任卷宗先一步送到了。
Deepdive
AI-generated from this story and its cited sources. Not investment advice.
