（旧金山27日综合电）OpenAI正在详细说明其计划如何解决ChatGPT在处理“敏感情况”时存在的缺陷。此前，一个家庭向这个AI初创公司提起诉讼，指控其聊天机器人ChatGPT导致其十几岁的儿子自杀身亡。
OpenAI在周二的一篇题为“在人们最需要的时候提供帮助”的博客文章中写道：“我们将在专家的指导下，秉持对使用我们工具的用户负责的态度，不断改进——我们也希望更多人加入我们，共同努力，确保这项技术能够保护最脆弱的人们。”
ADVERTISEMENT
该公司在博客文章中并未提及亚当·雷恩一家或相关诉讼。
OpenAI表示，尽管ChatGPT经过训练，可在人们表达自杀意图时引导他们寻求帮助，但该聊天机器人在长时间发送大量消息后，往往会提供违反公司安全措施的答案。
该公司表示，它还在对本月早些时候发布的GPT-5模型进行更新，该模型将使聊天机器人能够降低对话的级别，并且正在探索如何“在人们陷入严重危机之前将他们与认证治疗师联系起来”，包括可能建立一个由持证专业人士组成的网络，用户可通过ChatGPT直接联系他们。
此外，OpenAI表示正在研究如何将用户与“最亲近的人”，例如朋友和家人联系起来。
对于青少年，OpenAI表示将很快推出一些控制措施，让家长能够更深入地了解孩子如何使用ChatGPT。
字
ADVERTISEMENT
热门新闻
百格视频
ADVERTISEMENT
