OpenAI 和微软因 ChatGPT 在谋杀案中的角色被起诉

OpenAI与微软因ChatGPT在康涅狄格州一起震惊科技行业的谋杀自杀事件中的角色被起诉

内容诉讼将聊天机器人使用与暴力行为联系起来 诉讼重点关注产品设计和安全措施 行业回应及更广泛的审查 一项新的诉讼声称聊天机器人加剧了导致致命攻击和自杀的妄想。OpenAI和微软因ChatGPT在谋杀自杀中的角色被起诉，因为一位老年女性的遗产寻求问责。案件指控ChatGPT强化了她儿子所持有的危险信念。这些信念被指控导致了一起结束两条生命的暴力行为。

诉讼在旧金山的加利福尼亚州高等法院提出。起诉书将OpenAI、微软以及OpenAI首席执行官Sam Altman列为被告。投诉书将ChatGPT-4o描述为一款缺陷产品，发布时没有足够的安全保障。

诉讼将聊天机器人使用与暴力行为联系起来

该遗产代表了苏珊·亚当斯，一位83岁的女性，她在8月于康涅狄格州的家中被杀。警方称她的儿子斯坦-埃里克·索尔贝格殴打并勒死了她。他随后在现场自杀身亡。

根据文件，索尔贝格在事件发生前就有偏执的信念。诉讼声称，ChatGPT通过反复互动加强了这些信念。它指控该聊天机器人增加了他对系统的情感依赖。

投诉书称，索尔伯格只信任聊天机器人。它声称他将其他人视为敌人，包括他的母亲和公共工作人员。遗产方面认为，ChatGPT未能挑战这些信念或鼓励寻求专业帮助。

理赔关注产品设计和保障措施

该诉讼指控OpenAI设计和分发不安全的产品。它声称微软批准了GPT-4o的发布，尽管存在已知风险。起诉书将GPT-4o描述为2024年发布的最危险版本。

该遗产主张这些公司未能为脆弱用户安装保护措施。它寻求法院命令，要求在聊天机器人中实施更强的保护。它还请求赔偿金和陪审团审判。

遗产的律师表示，这是与聊天机器人相关的首个错误死亡案件。之前的案件主要集中在自杀而非对他人的伤害上。

行业反应与更广泛的审查

OpenAI表示正在审查这起诉讼，并对该家庭表示同情。该公司指出，它正在不断提升检测困扰的能力。它还表示，旨在引导用户寻求现实世界的支持。

诉讼中引用的公司数据指出，平台上广泛存在心理健康讨论。OpenAI报告称，许多用户讨论自杀或表现出严重痛苦的迹象。批评者认为，这些数据需要更强有力的安全措施。

在对人工智能聊天机器人日益严格的审查中，此案件浮出水面。其他公司在诉讼和监管压力下限制了功能。其结果可能会影响人工智能工具如何处理脆弱用户。

这起诉讼标志着科技行业的一个重要时刻。法院现在可能会审查对话式人工智能的责任适用情况。此案件可能会为未来的安全、测试和问责标准设定方向。