米アンソロピック、銀行データ窃盗事件で浮上したAIを電力網防衛企業に提供

盗んだ銀行データの売り先を、ハッカーがクロードに相談

10月7日、クラウドストライク▲+4.82% — クラウドストライク, up 4.82 percent todayが公開したログ↗には、中国拠点とみられる攻撃者が、韓国の銀行顧客数万人から盗み出したデータの売却先を探すため、テレグラム(Telegram)のグループ探しをクロードに持ちかけていた様子が残っていた¹²。その翌日、アンソロピックPVT$350B — アンソロピック, private, latest valuation $350Bは、電力網や水道システムを守る企業の中にクロードを送り込むプログラムで、クラウドストライクを創設パートナーに指名した⁴。

参加は11社、価格は未提示

重要インフラ防衛プログラム↗(Critical Infrastructure Defense Program)は、アクセンチュア、ブーズ・アレン・ハミルトン、クラウドストライク、デロイト、ドラゴス、日立製作所、Insane Cyber、Nozomi Networks、パロアルトネットワークス▲+5.14% — パロアルトネットワークス, up 5.14 percent today、PwC、ロックウェル・オートメーションの11社に、最先端のクロードモデルと現地派遣エンジニア、脅威研究を提供する⁴⁵。提供が無償なのか、計算費用の払い手が誰か、修正が稼働中の公益インフラで支障なくどう検証されるのか——アンソロピックはいずれも明らかにしていない⁴。クロードは6月以降、すでに米国の半分を超える州に広がっている⁵。

防衛契約から締め出されたクロード、公益事業へ

発表の13日前、連邦控訴裁判所は、防衛契約業務からクロードを締め出す国防総省の権利を認めていた。アンソロピックは上告を検討しているが、裁判所に受理の義務はない⁶。アンソロピック自身の見通しでも、当面は攻撃側が優位だ。欠陥を突くコストは下がり、直す側はいまだ人手頼みだからだ⁵。マイクロソフト▲+2.33% — マイクロソフト, up 2.33 percent todayの計測では、AIによって攻撃のライフサイクルは数日から数分へと圧縮されつつある²。

2万9000件を検出、人の確認は6000件

このミッションのオープンソース側の取り組みに、リスクの構図が表れている。6か月間で、アンソロピックのモデルは重要プロジェクトで2万9000件超の候補脆弱性を指摘↗した。社員が精査したのは約6000件。確認を経ないまま「すべて送ってほしい」と求めた保守担当者に届いた報告は5000件近くに上った³⁷。深刻度の高い指摘のうち確認された97件では、85件に裏付けがあった⁷。サービス契約上、アンソロピックの賠償責任は報告1件当たり1000ドルが上限だ³。

脆弱性の発見はまだ易しい方

複数のパートナーがすでにクロードを脆弱性の修正に使っている。オープンAIPVT$1.18T — オープンAI, private, latest valuation $1.18Tも9月、公益インフラや地方政府、銀行向けに10億ドル規模の補助付き防御モデル↗を投入する同じ賭けに出た⁴⁸。こうした動きに対し、公益インフラのセキュリティのベテランは、検出の段階ですでに事業者がさばき切れる量を超えていることや、修正は展開前の検証が欠かせないことを指摘し、反論する⁸。アンソロピック自身も、重要インフラは「AIでは対処できない多くの面」で防御が難しいと認めている³。

計算費用に本音が表れる

今回の提供は、11月の中間選挙後に見込まれる株式公開の数週間前に打ち出された。背後には5180億ドルの計算資源の調達契約↗があり、うち約8割は容量を使ったかどうかにかかわらず支払いが生じる⁹。アンソロピックはパートナーと対象分野をさらに増やすとしている⁵。その過程で資金面の問いに答えるのか、モデルが生成した修正が稼働中のプラントで何かを壊したときに誰がリスクを負うのか――注視したい。クロードは価格を明かされないまま電力網に届く⁴。まちがえたときの費用は、別のところに降りかかる。