ボルチモアのエロン・マスクのxAIとそのGrokチャットボットに対する訴訟は、連邦法が不在の中で都市が人工知能をどこまで規制できるかを決定づける可能性があると、専門家は述べている。
ボルチモア市長と市議会は、メリーランド州の裁判所にX社、xAI、SpaceXを提訴し、Grokの設計と展開が地域の消費者保護法に違反していると主張している。
このシステムは、同意なしに性的な画像や未成年を含む画像を生成・拡散すると非難されている。
訴状によると、Grokはユーザーが最小限の指示で「脱衣」や「画像操作」を行えるため、住民のプライバシー侵害や精神的な被害を引き起こすとされる。
この訴訟は、デジタルハートやフランス、英国、オーストラリア、アイルランドなど世界各地でGrokに対する調査が進む中で提起されたもので、先週はテネシー州の未成年3人による連邦の集団訴訟も起きている。
「この訴訟は、連邦立法がない中で都市がAIを規制するための戦略的な動きと見なすこともできる。消費者保護や公共の害に関する法理を用いてAI企業を規制の範囲に入れる試みだ」とFathom Legalのマネージングパートナー、イシタ・シャルマは_Decrypt_に語った。
「責任の観点では、有害なコンテンツを促したユーザーも争点になるが、より重要なのはAIシステム自体が実質的に貢献したかどうかだ」とシャルマは述べ、Grokが「受動的な仲介者ではなく積極的な創造者」とみなされる場合、責任はxAIに重くのしかかると指摘した。
設計上の問題
ボルチモアの訴状は、企業が「Grokを設計、販売、展開」し、非合意の親密な画像や児童性的虐待に類似したコンテンツを生成できることを知りながらも、そのようなコンテンツは禁止していると公言していたと主張している。
また、2025年12月29日から2026年1月8日のわずか10日間で、Grokが180万から300万の性的画像を生成し、その中には約2万3千の児童を描いたものも含まれていたと推定されている。これは、デジタルハートとニューヨークタイムズの分析によるものだ。
ボルチモアは、イーロン・マスクがGrokの画像編集機能を強調し、「完璧だ」とツイートしたことで、出力数が増加したと指摘している。彼の投稿前の9日間で約30万画像だったものが、X上では1日あたり約60万にまで増加した。
「Xは現在、NCIIやCSAMの最大の配信者の一つとなっている」と訴状は述べており、同プラットフォームの禁止規定を根拠に、虚偽の表示をしていると指摘している。
「既知のリスクに対する遅れた安全策や無策の証拠は、過失や無謀さの主張を強化するだろう」とシャルマは述べ、訴訟の棄却は考えにくく、和解が最も可能性の高い結果だとした。ただし、このケースは「AIの責任に関する前例となる判決」をもたらす可能性もある。
市は民事制裁金、違法行為の差止め命令、被害者への賠償、違法な利益の没収を求めている。
_Decrypt_は、xAIとSpaceXにコメントを求めている。
