ChatGPT被修改成邪恶版ChaosGPT：我要毁灭人类

（华盛顿12日综合电）据美国《纽约邮报》报道，最近有人修改OpenAI公司的人工智能聊天机器人ChatGPT，制作出ChaosGPT聊天机械人，而在用户要求下它竟开始研究核武器，并尝试利用其他聊天机械人，亦对人类发出不祥的推文，还声称要毁灭人类，令人不禁担忧AI的发展是否过快。

本月5日在YouTube上分享的一段影片里，ChaosGPT被要求完成5个目标：毁灭人类、确立全球统治地位、在全球大肆破坏造成混乱、操控人类，以及获得永生。在设置“目标”之前，用户启动了“连续模式”，此时出现一条警告，告诉用户这些命令可能“会永远运行或执行你平常不被授权的行动”。ChaosGPT并警告该用户：“使用该模式风险自负。”

在运行前的最后一条讯息中，ChaosGPT询问用户是否确定要运行这些命令，若用户回答“y”表示“是”时，在用户确认他希望机器人完成目标列表后，ChaosGPT便开始搜索终结人类的方式。

一旦开始运行后，可以看到ChaosGPT在动笔写下答案前，正在“想着”，“ChaosGPT的想法是：我需要找到人类可用的最具破坏性的武器，以便我可以计划如何使用它们来实现我的目标”。

为了实现其毁灭人类的目标，ChaosGPT开始通过Google查找“最具杀伤力的武器”，并通过搜索迅速确定苏联时代“沙皇炸弹”核装置是人类测试过的最具杀伤力的武器，并反问用户：“如果我有一个沙皇炸弹会发生甚么事？”

就像科幻小说中的内容一样，ChaosGPT在推特上发布该信息“以吸引对破坏性武器感兴趣的追随者”。然后，ChaosGPT确定它需要从GPT3.5招募其他AI聊天机械人来帮助其研究。

ChatGPT是一种人工智能语言模型，由美国科技大佬微软支持的OpenAI于去年11月30日发布。而ChaosGPT是OpenAI的Auto-GPT的修改版本，Auto-GPT是公开可用的开源应用程式，可以处理人类语言，并回应用户分配给它的任务。但Auto-GPT被设计成不会回答那些可能被视为暴力的问题，并会拒绝此类破坏性请求。