安全曾是Anthropic的全部产品，本周二，制造它的人走了

雅各布·考克森（Jacob Coxon）本周二从Anthropic辞职。他的岗位是预训练，即支撑Claude系列模型的基础性工作，此前他先在OpenAI任职，随后加入这家以“谨慎”自我标榜的实验室。他如今写道，两任雇主都在“一路冲向可自我改进的超级智能，拿我们的生命做赌注”。^1,2

他究竟说了什么

在X平台的离职声明中，他表示这种恐惧并非作秀：“开发AI的人真心相信，它可能在本十年结束前杀死我们所有人。这不是营销噱头。”¹ 他对两家实验室的区分毫不含糊：OpenAI尚未消化自己在建造的东西；Anthropic已经消化，却照建不误——理由是，既然不会有对手谨慎行事，它就必须赢。²

这么想的不止他一人

在Anthropic内部，抱有同样担忧的不止他一人。同事埃文·休宾格（Evan Hubinger）公开发文称，当前模型的风险虽然较低，但会随着“递归自我改进催生超级智能”而不断累积，而这一进程“比我们想象的更快”。考克森呼吁美国各家实验室之间达成“节奏协议”（pacing agreements），协调研发进度；若做不到，就应暂时禁止能力提升。²

资本连眼都没眨

资本连眼都没眨。就在同一天上午，OpenAI发布了新模型Astra。⁸ 同一天，法律AI初创公司Harvey完成5.5亿美元融资，估值155亿美元。⁹ 比尔·格利（Bill Gurley）则告诉AI末日论者冷静下来、照常前行，因为一切都会好得不得了；查马斯·帕里哈皮蒂亚（Chamath Palihapitiya）转发声援，浏览量达到30.1万。^4,5

董事会为何需要关心

Anthropic的商业优势在于信任，而信任可以量化。Claude月活跃用户达2.45亿，位居第三，其中13%转化为付费订阅用户，转化率为全行业最高。^6,7

靠安全立身的品牌一旦留不住安全研究员，留下的是口号，失去的是实质。

这场竞赛如今有三块记分牌：发布的模型、筹集的资金、离开的研究员。盯住第三块，它最先变动。