アンソロピックの商品は「安全」だった——火曜日、その作り手が去った

ジェイコブ・コクソン氏が火曜日に去ったのは、アンソロピックだった。同氏の仕事は事前学習——「Claude」のモデル群を支える基盤の研究だ。まずOpenAI、次に「慎重さ」を売りにする研究所で担ってきた。その両方の雇い主について、同氏はいま「自己改善する超知能へ向かって一直線に突進し、我々の命を賭け金にしている」と書いている^1,2。

実際の発言

X(旧ツイッター)に残した退職ノートで、同氏はこの恐怖が見せかけではないと言う。「AIを開発している人々は本気で、この10年の終わりまでにそれが我々全員を殺しうると信じている。これはマーケティングの演出ではない」¹。2つの研究所を分けた見立ては手厳しい。OpenAIは、自らが作りつつあるものを飲み込めていない。アンソロピックは飲み込んだ上で、それでも作る。競合の誰も慎重にはならないだろう、だから勝たなければならない——そういう理屈である²。

一人ではない

社内でも、同氏は一人ではない。同僚のエバン・ヒュービンガー氏は公開の場で、現行モデルのリスクは低いものの、「再帰的自己改善から生じる超知能」とともに複利式に膨らんでおり、その実現は「我々の考えていたより速く」進んでいると投稿した。コクソン氏は米国の研究所どうしでペーシング合意(pacing agreement)を結ぶこと、それがかなわなければ能力向上の一時禁止を求めている²。

マネーは動じず

マネーは動じなかった。同じ朝、OpenAIは新モデル「Astra」を公開した⁸。同日には法務AIスタートアップのHarveyが評価額155億ドルで5億5000万ドルを調達した⁹。さらにビル・ガーリー氏はAI破局論者に向けて「落ち着いて続けること。すべては素晴らしくなる」と語り、シャマス・パリハピティヤ氏が同調して拡散、再生数は30万1000回に達した^4,5。

取締役会が注視すべき理由

アンソロピックの商業上の強みは信頼であり、信頼は測れる。「Claude」の月間利用者は2億4500万人で業界3位だが、そのうち13%を有料契約に転換しており、この転換率は業界で最も高い^6,7。

安全性を看板とする企業が安全性研究者を失えば、残るのは標語で、失われるのは中身だ。

この競争には今や3つの採点板がある。リリースしたモデル、調達した資本、そして去っていく研究者。注視すべきは3つ目だ。真っ先に動く。