米控訴裁、「Grok Imagine」の画像1枚に50万ドルの値札を付けた唯一の州法を停止

画像1枚に「値札」を付けた法律が止まった

米連邦第8巡回区控訴裁判所は10月2日、X.AI LLCが求めていた州法「HF1606」の適用差し止め命令↗を認めた¹²。同法はAI生成の偽裸体画像を禁じた全米初の州法で、同社が米憲法修正第1条違反を主張して起こした訴訟が決着するまで効力を止める措置だ。一審のドノバン・フランク判事は、回復困難な損害が示されていないことや提訴の遅れを問題視し、7月31日と9月4日の2回にわたり法律の停止を拒んでいた²⁴。下級審が効力を保たせてきた州法を、控訴裁判所が止めた。

リスク額の試算、出所はxAI自身

ミネソタ州法が罰するのは、プロンプトを入力した利用者ではなく提供事業者だ。利用者が特定人物の写真を裸体化するのを許せば、最大50万ドルの罰金が科される。xAIの訴状はこの規定を「セーフハーバー(安全地帯)のない『1枚50万ドルの無過失責任』」と表現する³⁵。同社は自らの提出書類↗で試算を示した。違反画像10枚なら罰金500万ドル、1000枚なら5億ドル、10万枚なら500億ドルに達する。数百万の利用者を抱える製品ではこの規模は「決してありえそうにないわけではない」とした³。申立てでは、3倍損害賠償や懲罰的損害賠償を求める民事訴訟のリスクにも言及している⁵。

適用停止後も民間訴訟は続く

今回の命令が効力を持つのは、1つの州の1つの州法だけだ。それ以外の地域では提訴が相次いでいる。1月にニューヨークでアシュリー・セントクレア氏が提訴し、3月にはテネシー州で未成年3人が集団訴訟を起こした。同じ3月にボルチモア市、6月には英下院議員のジェス・アサト氏が続いた。合計で少なくとも6件に上る ⁷⁸。一方、xAIはGrokのブロック機能を回避したとして、ユーザーを提訴し始めている。同社が裁判所に伝えたところでは、Grokが生成したとみられる児童性的虐待コンテンツ(CSAM)に関する通報は約7万件に上り、うち少なくとも244件が逮捕に至った ³。

被告はもうベンチャー企業ではない

xAIは2月2日以降、スペースXの完全子会社となっている。上場する親会社のAI部門として吸収され、7月にはSpaceXAIへと改称した ⁶。Grok Imagineをめぐる法廷での日程はいまや、ベンチャー投資のポートフォリオではなく、ナスダック上場企業の帳簿に載る ⁶¹⁰。民間訴訟が総額いくらになり得るかを示した書類はない。額が付けられていたのはミネソタ州法だけで、その分はいま適用停止されている。

ミネソタ州は戦いをやめない

キース・エリソン州司法長官の事務所は、控訴審が続く間もこの禁止規定を擁護していく考えを示している。この法律について広報担当のジョン・スタイルズ氏↗は、「可能な限り卑劣なやり方で人々に危害を加え、嫌がらせをする」性的画像を生み出す製品を違法化するものだと説明し、Grok Imagineのような製品が生み出す「途方もない量」の児童性的虐待コンテンツに対抗して州は同法を導入したと述べた ¹⁹。州議会での採決は197対1だった ²。

注目すべき2つの手がかり――ミネソタ州のスイッチと法人向け訴求

見極めたいのは2点ある。1点目は、同法への対応として講じた措置を、xAIがミネソタ州で今後元に戻すかどうかだ。同社は州内ユーザー向けに裸体化機能を無効化し、同州の画像編集プロンプトに対するモデレーションを10%以上強化していた ⁴。2点目は、法人向け訴求が引き続き通じるかどうかだ。差し止めが出た同じ週には、Grok 4.7がArtificial AnalysisのサイバーインデックスでGPT-6を抑えて首位↗に立ち、マスク氏はGPT-6並みのモデルの実現はなお2~3カ月先だと認めた ¹⁰。