AI奉承新闻资料

简

ADVERTISEMENT

ADVERTISEMENT

e潮

【科技简讯】GPT-4o“翻车”太会拍马屁惹事

OpenAI在官网解释，这一次的GPT-4o更新太注重短期反馈，没有充分考虑到用户长期是如何和ChatGPT互动的，结果导致GPT-4o的回答太过奉承，不够真诚。可能很多人没想到，连ChatGPT也会拍马屁。OpenAI首席执行员阿尔特曼早前在社交媒体平台“X”承认，GPT-4o最近的表现有点“马屁精”（sycophant-y），会迎合用户的意见和观点，没有任何批评。当他收到大量用户的反馈后，迅速撤回之前的升级，恢复到了之前的版本。不久后，OpenAI在官网解释，这一次的GPT-4o更新太注重短期反馈，没有充分考虑到用户长期是如何和ChatGPT互动的，结果导致GPT-4o的回答太过奉承，不够真诚。 “ChatGPT的默认个性影响了用户的体验和信任感。阿谀奉承的回应会让人感到不舒服、不安，甚至困扰。我们做得不够好，并正在努力改进中。” OpenAI声称，接下来会改进核心训练方法和系统提示，让ChatGPT模型不要一味讨好用户。同时会设立更多“护栏”，让AI模型的回答更加诚实和透明。这显然是未来AI行业需要注意的事，用户需要一个诚实和懂得过滤有害言论的AI模型。倘若AI模型没被监管，一味奉承，导致用户做出错误的选择或丢掉性命，届时谁能承担这些后果？相关文章：【科技简讯】谷歌Gemini大派送福利 Gemini 2.5 Pro免费试用【科技TALK】GPT-4o來了！让你轻松生成四格漫画、海报…… 【多点AI】ChatGPT-4.5的突破：更准确、更少幻觉：AI会比人更可信吗？

7月前

e潮