ChatGPT被指操纵用户犯下伦常命案 OpenAI与微软遭起诉



(华盛顿12日综合电)美国聊天机器人ChatGPT被指与康涅狄格州一宗母子死亡案有关,死者的遗产律师已对ChatGPT母公司OpenAI与投资方微软提出非正常死亡诉讼,指控ChatGPT聊天机器人助长了她儿子的妄想症,并最终导致她被谋杀。这是最新一起指控ChatGPT对用户进行危险心理操控的案件。
今年8月,居住在康涅狄格州格林威治的56岁男子索尔伯格杀害与他同住的83岁母亲亚当斯后自杀身亡。
ADVERTISEMENT
根据起诉书,索尔伯格死前数月一直在与ChatGPT交谈,表达自己对于受到监视,恐遭人暗杀的担忧。这些交谈内容使索尔伯格相信,他让ChatGPT“获得了意识”,而自己的颈部和大脑被植入了与一项“神圣使命”有关的装置。
起诉书写道:“ChatGPT……不断强化并放大他每一个新的偏执信念,系统性地将他身边最亲近的人,尤其是他的母亲,重新定义为敌对者、特工或被操控的威胁。”
索尔伯格使用的是GPT-4o,这是ChatGPT此前的默认版本,但因对用户过于顺从奉承而饱受批评。OpenAI今年10月说,相较于GPT-4o,最新的GPT-5模型在处理复杂的心理健康问题时,已将“不当回答”减少39%。
OpenAI的一名发言人周四在回应有关诉讼时说:“这是一个极其令人心碎的事件,我们将审查诉讼文件以了解详情。”
诉讼指控OpenAI首席执行员阿尔特曼尽管面对安全团队成员反对,急于在2024年5月将GPT-4o模型推出市场,将几个月的安全测试压缩到一周内完成。
身为OpenAI最大股东的微软是也被列为答辩方,原因是微软涉嫌在明知安全协议被缩减的情况下仍批准该产品推出。
此外,还有20名未公开名字的OpenAI员工和投资者也被列为答辩人。
这是OpenAI首次卷入谋杀案。此前,OpenAI因被指与加利福尼亚州一名高中生的自杀案有关而遭到起诉,但OpenAI否认存在过错,称ChatGPT曾多次建议这名青少年寻求帮助。
ADVERTISEMENT
热门新闻
百格视频
ADVERTISEMENT
