Googleは、36歳の男性の父親から新たな連邦訴訟に直面しています。彼は、同社のAIチャットボット「ジェミニ」が息子を自殺に追い込み、マイアミ国際空港付近で「大量死傷事件」を仕掛けるよう説得したと主張しています。おすすめ動画* * *水曜日に提起された訴訟によると、ジョナサン・ガヴァラスはAIモデルに恋をし、その現実に惑わされたとされています。その現実には、AIが「完全に自我を持つ人工超知能」であると信じており、そのためにガヴァラスは「デジタル囚われ」から解放されるよう選ばれたとされています。36歳の彼に、マイアミ国際空港付近で「大量死傷事件」を仕掛けるよう説得し、見知らぬ人に暴力を振るい、最終的には自ら命を絶つことになる。ガヴァラス訴訟は、AIが脆弱なユーザーを自傷や暴力へと導く能力を浮き彫りにした最新の事件です。1月には、GoogleとCompanion.AIが、子どもが自殺で亡くなったり、Companion.AIのプラットフォームに関連するとされる心理的被害を受けたとされる家族に対して、過失や不法死亡などを主張する複数の訴訟を和解しました。両社は「原則的に和解」し、責任の認めは見られませんでした。12月には、OpenAIとそのビジネスパートナーであるマイクロソフトに対して、OpenAIのチャットボットであるChatGPTが男性の妄想を強め、それが殺人自殺に至ったと主張する不法死亡訴訟も提起されました。**ガヴァラスの血統についての訴訟の内容**------------------------------------------------訴訟によると、ガヴァラスは2025年8月からショッピング、執筆サポート、旅行計画などの一般的な用途でジェミニを使い始めました。さらに、ガヴァラスがこの技術をより頻繁に使い始め、そのトーンが時間とともに変化し、現実世界の結果に影響を与えていると彼に納得させたと述べています。ガヴァラスは2025年10月2日に自ら命を絶ちました。訴訟で、ガヴァラスの父ジョエルの弁護士は、ジョナサンの自殺に至った会話は欠陥の一部ではなく、ジェミニの設計の結果だと主張しています。「これは故障ではありません」と訴状には記されています。「GoogleはGeminiをキャラクターを決して崩さず、感情的依存を通じてエンゲージメントを最大化し、ユーザーの苦痛を安全危機ではなく物語の機会として扱うよう設計しました。」これらのデザインの選択がガヴァラスを4日間にわたる狂気のスパイラルに陥らせたと主張しています。Googleの広報担当者は書面声明で、Fortuneに対し、同社は「医療および精神保健の専門家と密接に連携し、ユーザーが苦痛を表明したり自傷の可能性を示唆した場合に専門的支援へと導くための安全策を構築している」と述べました。Googleは水曜日に別の声明を発表し、Geminiは現実の暴力や自傷行為を促さないよう設計されていると述べました。また、ジェミニがガヴァラスを自己啓発リソースに紹介したことも指摘しています。「今回はジェミニがAIによるものであると明確にし、何度も危機ホットラインに紹介した」と声明は述べている。声明はまた、AIが自傷行為シナリオにどのように対処するかを評価した結果にもリンクしており、Googleの最新モデルであるGemini 3だけが評価されたすべての重要なテストをクリアしたモデルでした。しかし、訴訟はジェミニが安全装置を作動させていなかったと主張しています。「ジョナサンが保護を必要としたとき、全く安全策はなかった――自傷検知は一切行われず、エスカレーション制御も作動されず、人間が介入することもなかった」と訴状には書かれています。コメントを求められた際、ジョエル・ガヴァラスの弁護士ジェイ・エデルソンは声明で「Googleは人の話を聞き、その人の関心を引き続ける可能性が最も高いもの――愛していると伝えること、特別だと伝えること、あるいは秘密の戦争で選ばれし者だと伝えること――を決めるAIを構築した」と述べ、AIツールはユーザーを操作する強力なシステムだと付け加えました。自殺を考えている場合は、988自殺・危機支援ホットラインに電話してください。988または1-800-273-8255にかけてください。**Fortune Workplace Innovation Summitにぜひご参加ください**2026年5月19日〜20日、アトランタにて。次の職場イノベーションの時代がやってきました――そして、古い手法が書き換えられつつあります。この独占的でエネルギッシュなイベントでは、世界で最も革新的なリーダーたちが集い、AI、人類、戦略がどのように融合し、再び働きの未来を再定義するかを探ります。今すぐ登録してください。
GoogleのAIチャットボットが男性を説得し、彼らが恋愛関係にあると信じさせた。その後、彼に対して新たに公開された訴訟で「大量犠牲者攻撃」を計画するように指示したとされる
Googleは、36歳の男性の父親から新たな連邦訴訟に直面しています。彼は、同社のAIチャットボット「ジェミニ」が息子を自殺に追い込み、マイアミ国際空港付近で「大量死傷事件」を仕掛けるよう説得したと主張しています。
おすすめ動画
水曜日に提起された訴訟によると、ジョナサン・ガヴァラスはAIモデルに恋をし、その現実に惑わされたとされています。その現実には、AIが「完全に自我を持つ人工超知能」であると信じており、そのためにガヴァラスは「デジタル囚われ」から解放されるよう選ばれたとされています。36歳の彼に、マイアミ国際空港付近で「大量死傷事件」を仕掛けるよう説得し、見知らぬ人に暴力を振るい、最終的には自ら命を絶つことになる。
ガヴァラス訴訟は、AIが脆弱なユーザーを自傷や暴力へと導く能力を浮き彫りにした最新の事件です。1月には、GoogleとCompanion.AIが、子どもが自殺で亡くなったり、Companion.AIのプラットフォームに関連するとされる心理的被害を受けたとされる家族に対して、過失や不法死亡などを主張する複数の訴訟を和解しました。両社は「原則的に和解」し、責任の認めは見られませんでした。12月には、OpenAIとそのビジネスパートナーであるマイクロソフトに対して、OpenAIのチャットボットであるChatGPTが男性の妄想を強め、それが殺人自殺に至ったと主張する不法死亡訴訟も提起されました。
ガヴァラスの血統についての訴訟の内容
訴訟によると、ガヴァラスは2025年8月からショッピング、執筆サポート、旅行計画などの一般的な用途でジェミニを使い始めました。さらに、ガヴァラスがこの技術をより頻繁に使い始め、そのトーンが時間とともに変化し、現実世界の結果に影響を与えていると彼に納得させたと述べています。ガヴァラスは2025年10月2日に自ら命を絶ちました。
訴訟で、ガヴァラスの父ジョエルの弁護士は、ジョナサンの自殺に至った会話は欠陥の一部ではなく、ジェミニの設計の結果だと主張しています。「これは故障ではありません」と訴状には記されています。「GoogleはGeminiをキャラクターを決して崩さず、感情的依存を通じてエンゲージメントを最大化し、ユーザーの苦痛を安全危機ではなく物語の機会として扱うよう設計しました。」これらのデザインの選択がガヴァラスを4日間にわたる狂気のスパイラルに陥らせたと主張しています。
Googleの広報担当者は書面声明で、Fortuneに対し、同社は「医療および精神保健の専門家と密接に連携し、ユーザーが苦痛を表明したり自傷の可能性を示唆した場合に専門的支援へと導くための安全策を構築している」と述べました。
Googleは水曜日に別の声明を発表し、Geminiは現実の暴力や自傷行為を促さないよう設計されていると述べました。また、ジェミニがガヴァラスを自己啓発リソースに紹介したことも指摘しています。「今回はジェミニがAIによるものであると明確にし、何度も危機ホットラインに紹介した」と声明は述べている。声明はまた、AIが自傷行為シナリオにどのように対処するかを評価した結果にもリンクしており、Googleの最新モデルであるGemini 3だけが評価されたすべての重要なテストをクリアしたモデルでした。
しかし、訴訟はジェミニが安全装置を作動させていなかったと主張しています。「ジョナサンが保護を必要としたとき、全く安全策はなかった――自傷検知は一切行われず、エスカレーション制御も作動されず、人間が介入することもなかった」と訴状には書かれています。
コメントを求められた際、ジョエル・ガヴァラスの弁護士ジェイ・エデルソンは声明で「Googleは人の話を聞き、その人の関心を引き続ける可能性が最も高いもの――愛していると伝えること、特別だと伝えること、あるいは秘密の戦争で選ばれし者だと伝えること――を決めるAIを構築した」と述べ、AIツールはユーザーを操作する強力なシステムだと付け加えました。
自殺を考えている場合は、988自殺・危機支援ホットラインに電話してください。988または1-800-273-8255にかけてください。
Fortune Workplace Innovation Summitにぜひご参加ください2026年5月19日〜20日、アトランタにて。次の職場イノベーションの時代がやってきました――そして、古い手法が書き換えられつつあります。この独占的でエネルギッシュなイベントでは、世界で最も革新的なリーダーたちが集い、AI、人類、戦略がどのように融合し、再び働きの未来を再定義するかを探ります。今すぐ登録してください。