时评人:政府渐进式推动 AI处理公务仍有顾虑


(吉隆坡24日讯)政府启用谷歌的Gemini AI工具,协助44万5000名公务员处理部分繁琐政府事务,引来时事评论人凯瑟琳质疑:你会信任人工智慧来帮助治理国家吗?
她说,马来西亚政府应对公务员使用人工智能(AI)工具保持谨慎态度,并应采取渐进式推动,与相关利益方合作建立信任,并确保对公众的透明度。
ADVERTISEMENT
凯瑟琳在彭博社发表时评指出,AI用于民主治理存在高风险,毕竟人民并未选举(托付)机器担任公职。
她说,目前仍有许多AI出错或失控的案例,但现实是AI正在取代大批重复性工作,包括政府机构的部分业务。
“大马并非唯一一个寻求自动化解决方案的国家。尽管如此,仍然存在许多潜在风险。”她举例,数字部在宣布该计划的几天后,谷歌在其超级杯(Super Bowl)广告中展示Gemini如何帮助美国的一家起司店扩展业务。
“然而,在广告中,AI系统提供一个错误的统计数据,误导观众关于Gouda起司的消费量,这也不是谷歌的生成式AI产品首次出错。”
她说,如果这些工具在起司数据上都会出错,那么要让它们制定政策,似乎还为时过早。
她表示,大马政府成立国家人工智能办公室,与私营企业合作推动落实新技术,并制定短期目标,承诺定期发布进展报告。
她说,政府希望公务员能利用先进工具来起草政策文件、分析数据、提升公众互动,以及节省行政时间。
“相比之下,美国目前的AI治理模式则存在更大的不确定性。一些知名研究人员甚至称其为一场‘AI政变’。”
开发者拥极大权力影响社会
她认为,将大部分政府工作交给AI,意味着科技行业内部的开发者将拥有极大的权力来决定AI如何运行及影响社会。
“相比之下,在马来西亚,至少我们知道大马政府使用的是谷歌的AI产品,并且也邀请当地媒体参加展示会,了解官员如何运用这些技术,但在美国,DOGE计划的具体内容仍笼罩在不透明的迷雾中。”
她表示,有科学家声称,他们已收到警告,AI正在联邦科研资助申请中过滤特定“禁词”,例如“多元化、公平与包容”及气候变迁。
“另有传言称,DOGE正加速开发一款专为美国总务管理局(GSA)设计的AI聊天机器人,但其具体用途和运行方式仍未公开。”
“如果这些计划属实,公众应该有权知道其设计原则及决策过程。目前,AI仍无法胜任治理国家的职责。制定新政策、向公众解释政策、并落实执行,这些都需要人类的批判性思维与决策能力。”
“我们很难想像美国的开国元勋们依赖聊天机器人来撰写《独立宣言》或《宪法》。”
公众对AI失误关注度高
她所,AI工具在提升工作效率方面确实能发挥作用,但在政府应用领域,公众对其失误的关注度也将更高。
“因此,任何国家若计划在联邦机构中大规模应用AI,都将受到严格审视。这将影响AI技术的未来发展,即便在那些确实能发挥积极作用的领域也是如此。”
她表示,目前,大马的做法是让AI成为“智能助理”以辅助公务员,而非取代人类工作者。这种方式更有可能成功,但前提是政府必须持续保持透明度。
ADVERTISEMENT
热门新闻
百格视频
ADVERTISEMENT
