发布: 4:13pm 23/02/2024

ChatGPT尴尬失控 “胡言乱语”讲西式英语故障引发可靠性质疑

（华盛顿23日综合电）美国企业OpenAI近来发布的新人工智能视频生成模型Sora的逼真演示让全球大为惊叹，但近日该公司却出现了一个令人尴尬的故障。许多用户周二在X平台上抱怨，该公司的标志性产品ChatGPT聊天机器人开始用“胡言乱语的无意义输出”来回应用户的询问，有的还用“混有西班牙文的英语”来回复，让用户丈八金钢摸不着头脑。

在这些奇怪的回复中，一些ChatGPT的输出混杂了西班牙语和英语，令人难以理解，而另一些则拼凑了单词或重复了同一个单词，尽管这个由大语言模型（LLM）驱动的聊天机器人并没有被要求这样做。

关于OpenAI的聊天机器人胡言乱语的情况已在社媒上出现后，这家美国科技巨头承认用户收到了“意想不到的回应”。该公司周二下午表示意识到该问题，并在其公共网页上发布了相关信息，之后称已“识别”问题并正在 “修复”，之后该公司又称正在 “继续监控情况”，但未透露故障原因。

OpenAI周三上午在X平台上发布消息称，周二有点出错，但已恢复正常运行。

尽管如此，即使能够快速修复，这些不知从何而来的错误和漫无边际的回答还是不禁让人质疑ChatGPT的基本可靠性和完整性，以及将它或其他OpenAI产品用于企业用途，尤其是“安全关键””任务，如交通、医疗保健、医药、电力和工程领域的任务。

人工智能专家、纽约大学名誉教授马库斯表示，ChatGPT已经“疯了”。他表示：“这些系统从来都不稳定。没有人能够围绕它们设计出安全保证。我们仍处于机器学习魔力的时代。”

其中一个“胡言乱语”的例子是：“Let me encylopease me si there’s more wonderenda tu articulation’s hungry for!”不知所云。

在Reddit论坛发表的其中一个内容显示，一位用户询问它在黑胶唱片上，会推荐购买哪些比尔‧埃文斯的爵士乐专辑。在提出几项建议后，ChatGPT不可思议的一遍遍重复着“快乐聆听”这句话，就像一个卡住的点唱机。

一位用户摘录询问ChatGPT的回应片段。当他问“电脑是什么”时，它回答说：“它这样做是国家艺术网络的好作品，是科学的老鼠，是少数可悲的人的轻松画动，最后是全球艺术之家，只是在剩下的一份工作中……”

该用户表示，GPT对该问题不但生成了9段内容，还想继续下去。整个情况令他感到十分诡异。

在另一篇帖子中、ChatGPT回道：“一天。一高。一支粉笔。一个火花。一条线。一个肯。一种病毒。一个风向标。一牛栏。一次再见。曾经。一次的犹豫。”

一用户将这些看似随机的不连贯单词串与杰夫-范德米尔2014年的开创性小说《湮灭》中令人不安的“诡异恐怖”外星涂鸦相提并论。

一些受访者开玩笑说，这些奇怪的输出是“机器人起义” 的开端，就像《终结者》和《黑客帝国》等众多科幻电影中描述的那样。