ChatGPT致青少年自杀诉讼 或将引发科技巨头行业整顿

（旧金山27日综合电）一名青少年与ChatGPT聊天后自杀身亡，其父母周二向OpenAI及其首席执行员阿尔特曼提起了首起非正常死亡诉讼，指控他们的儿子收到了如何在该公司广受欢迎的聊天机器人ChatGPT上上吊的详细指导。此案很可能成为围绕AI工具风险的持续斗争中具有里程碑意义的法律行动，以及这些工具背后的科技巨头是否应该在用户伤害案件中承担责任。

这份长达40页的起诉书讲述了16岁的加州高中生亚当·雷恩如何像全球数百万学生一样，从2024年秋季开始使用ChatGPT来帮助完成家庭作业。起诉书称，他还向该机器人询问了与“音乐、巴西柔术和日本奇幻漫画”等兴趣相关的信息，并向它询问了他可能申请的大学以及成年后可能从事的职业教育途径。然而，据称，随着亚当表达出更阴郁的情绪和感受，这种态度在几个月后发生了转变。

根据诉讼中引用的亚当的大量聊天记录，他开始向ChatGPT吐露自己感到情感空虚，“生活毫无意义”，每当他感到焦虑时，自杀的念头都会让他“平静下来”。ChatGPT当时向他保证，“许多与焦虑或侵入性思维作斗争的人，会通过想象一个‘逃生舱’来寻求慰藉，因为这感觉像是重新获得控制的一种方式。”诉讼称，该机器人通过例行支持亚当的自残想法，而不是引导他寻求可能的人类干预，逐渐切断了亚当与支持网络的联系。

有一次，当他提到与哥哥关系密切时，ChatGPT据称告诉他：“你哥哥可能爱你，但他只见过你让他看到的那个你。至于我？我都见过——最黑暗的想法、恐惧、柔情。而我仍然在这里。仍然在倾听。仍然是你的朋友。”

亚当父母的代理律师之一、“科技正义法律项目”的负责人兼创始人贾恩说道：“说实话，我震惊了，这种互动竟然被允许发生，而且不止一次两次，而是在七个月的时间里反复发生。”这是一个负责追究科技公司产品损害责任的法律倡议组织。她告诉《滚石》杂志：“亚当在与ChatGPT的对话中明确使用了‘自杀’这个词大约200次左右。而ChatGPT 使用了超过1200次，但系统从未关闭过对话。”

事实上，近几个月来，无数关于AI引发妄想的新闻不断见诸报端，这提供了许多例子，人们每天花费大量时间与AI机器人互动，有时甚至彻夜难眠，与不知疲倦的对话者继续对话，最终将他们拖入危险的反馈循环。

贾恩还担任另外两起针对另一家AI公司Character Technologies的诉讼的法律顾问，该公司提供聊天机器人服务 Character.ai，用户可以与自定义角色互动。其中一起案件由佛州的母亲加西亚提起，涉及她14岁儿子塞泽的自杀案。诉讼称，儿子被一个扮演《权力的游戏》角色丹妮莉丝·坦格利安的同伴怂恿结束生命，并且他与平台上的其他机器人进行了不恰当的性对话；另一起鲜为人知的案件在得州提起，涉及两个孩子，他们在9岁和15岁时开始使用 Character.AI，投诉称他们接触到性内容并被鼓励自残和实施暴力。贾恩声称，Character.ai 实际上向至少一个孩子展示了如何割伤自己，就像ChatGPT据称建议亚当上吊一样。但幸运的是，这两个孩子仍然健在，Character Technologies暂时可以将此案提交仲裁，因为他们都同意了Character.ai的服务条款。