AI对新闻总结严重失实 BBC抨研发公司玩火
（八打灵再也12日讯）英国广播公司（BBC）一项研究显示，四大主要人工智能（AI）聊天机器人在总结新闻报道时存在“严重不准确”的问题。
BBC向Open AI的ChatGPT、微软的Copilot、谷歌的Gemini和Perplexity AI提供BBC网站上的新闻内容，并向它们发出提问，结果发现这些AI的回答存在“严重不准确”和失真。
ADVERTISEMENT
BBC新闻与时事事务首席执行员特内斯在博客中表示，虽然人工智能带来了“无限的机会”，但开发这些工具的公司却是在“玩火”。
“我们生活在充满挑战的时代，什幺时候会发生因AI扭曲的标题而造成对现实世界的严重伤害？”
总结100新闻报道 51%错误
BBC在研究中让上述四大人工智能聊天机器人总结100篇新闻报道，并由相关领域的记者评估答案质量。
研究发现，51%的AI回答存在某种形式的重大问题；此外，19%引述BBC内容的AI回答引用了事实错误，例如错误的事实陈述、数字和日期。
特内斯表示，BBC希望与AI技术公司展开对话，共同寻找解决方案。
要求撤回AI新闻摘要功能
她呼吁这些公司，撤回AI新闻摘要功能，就如BBC在投诉苹果公司的Apple Intelligence误解新闻报道后，苹果所采取的行动。
BBC举例了一些AI的错误示范，如Gemini错误地表示英国国民保健署（NHS）不建议使用电子烟作为戒烟的辅助工具；ChatGPT和Copilot称英国前首相苏纳克和苏格兰前首席部长斯特金仍在任，以及Perplexity在报道中东局势时错误引用BBC新闻，声称伊朗最初表现出克制，并描述以色列的行为为“侵略性”。
难区分意见事实含评论倾向
整体来看，微软和谷歌的AI聊天机器人存在更多严重问题，而Open AI和Perplexity则相对表现较好。
研究报告指出，这些聊天机器人不仅存在事实错误，还难以区分意见和事实、带有评论倾向，且经常缺乏必要的背景信息。
BBC生成式AI节目总监阿切斯表示，出版商应该有权决定是否以及如何使用其内容，AI公司应该透明的展示AI助手如何处理新闻，以及错误和不准确性的规模和范围。
ADVERTISEMENT
热门新闻
百格视频
ADVERTISEMENT
