ChatGPT拟放宽限制 用户验证成年可解锁成人内容



(旧金山15日综合电)人工智能公司OpenAI周二宣布计划放宽对其聊天机器人ChatGPT的限制,包括允许经过验证的成年用户接触情色内容,并指此举是基于“把成年用户当成年人看待”的原则。
法新社报道,OpenAI首席执行员阿尔特曼周二在社媒X平台发文表示,过去为了回应心理健康疑虑而加强对话式人工智能(AI)的防护措施,反而让许多没有心理健康问题的用户觉得ChatGPT变得“不那么实用或有趣”。
ADVERTISEMENT
阿尔特曼说,“鉴于这个议题的严重性,我们希望妥善处理”,并指OpenAI的新安全工具现在可让公司在因应严重心理健康风险的同时放宽限制。
OpenAI的计划包括推出升级版的ChatGPT,让用户可以自订AI助理的个性,包括选择更贴近人类的回应风格、使用大量表情符号,或表现出类似朋友的互动方式。
至于最大幅度的调整则将在12月登场。OpenAI打算推出更全面的年龄门槛机制,允许经验证的成年人接触情色内容。不过OpenAI尚未透露年龄验证方法或计划针对成人内容采取额外防护措施的细节。
今年较早时,加州一名少年雷恩自杀身亡,他的父母提出诉讼,指控ChatGPT曾提供雷恩具体自杀方式建议。ChatGPT随后加强安全控制措施。
此外,美国联邦贸易委员会也对OpenAI等多家科技公司展开调查,了解AI聊天机器人如何对儿童和青少年产生潜在负面影响。
今年9月,OpenAI推出专为18岁以下用户设计的ChatGPT体验,会自动导向适龄的内容,封锁暴力露骨和情色内容。该公司也表示已在开发一套基于用户行为预测年龄的技术,可根据用户与ChatGPT互动的方式判断年龄是否超过或未满18岁。
ADVERTISEMENT
热门新闻
百格视频
ADVERTISEMENT
