张晋玮.AI参与国家决策，你怎么看？

过度依赖AI可能为决策带来风险。当然，人类同样会犯错，但责任归属清晰，而AI犯错时，责任该由谁承担？更重要的是，将人的命运完全交由AI决定，恐难以让公众信服。

前卫生部长凯里表示，大马应效仿美国，成立政府效率部门（DOGE），以优化公务员体系，然而重点应放在对公务员再培训和重新调配，并且引入自动化和人工智能（AI），而不涉及裁员。

有趣的是，几天后，彭博社发表了一篇题为《马斯克的DOGE能从大马学到什么》的文章，批评DOGE主导的“AI政变”，政策模糊不清。

相反的，文章表扬了大马循序渐进推进AI的方式，设立国家人工智能办公室（NAIO），并推行谷歌人工智能（Gemini）以服务45万名公务员。看来，大马鼓励使用AI的努力引起了国际社会的注意。

国家运用AI符合全球趋势，但AI介入政府决策仍存有诸多争议，从伦理与责任归属，到数据准确性及决策透明度，皆引发广泛讨论。笔者曾在澳洲法院任职，至今该机构仍未正式允许使用AI，这正是其中的原因。

彭博社文章提到，大马宣布采用Gemini后不久，谷歌发布了一支宣传片，展示Gemini如何帮助一家奶酪店主拓展线上业务。然而，在片中，该AI却提供了一项关于奶酪消费的错误数据。由此可见，AI上知天文，下知地理，但它所提供的数据，也不能尽信。

另一个真实案例是澳洲法院推出的Robodebt系统，该系统通过自动计算向福利领取者追讨补助金。然而，错误的算法导致许多受助者被要求偿还并不存在的债务。该系统最终在2019年被法院裁定违法。

必须澄清的是，Robodebt并未使用AI，但它凸显了任何自动化系统在决策过程中的潜在风险。

AI出错的原因众多，数据是其训练基础，数据有误，AI便会出错。即使数据准确，生成式AI仍可能因“幻觉效应”（Hallucination） 而凭空生成错误信息。

因此，过度依赖AI可能为决策带来风险。

当然，人类同样会犯错，但责任归属清晰，而AI犯错时，责任该由谁承担？更重要的是，将人的命运完全交由AI决定，恐难以让公众信服。

但话说回来，机器人参与决策早已是趋势，甚至在ChatGPT推出之前就已存在。在企业管理中，业务规则管理系统（BRMS）让管理者

错过不再！解锁所有内容

立即订阅 成为普通会员

已是会员？登入

VIP会员的专有特权

若您已是普通会员，现在就升级成为VIP。

	普通会员	VIP	VVIP
星洲网平台内容
星洲公开活动
礼品/优惠
会员文
VIP文
特邀活动/特级优惠
电子报（全国11份地方版）
报纸
	成为会员	按此升级	按此升级

设定规则，计算机根据指令自动执行决策，例如考勤与薪资计算、自动调整商品价格等，大幅提高效率和一致性。

前美联储高级经济学家萨姆（Claudia Sahm）提出了萨姆规则（Sahm Rule），以失业率变化来预测经济衰退，她建议美国用此指标设为触发机制，自动启动财政刺激方案，以快速应对经济疲软。

无论是AI还是传统软件，自动化系统在决策过程中都能提高精准度，确保一致性和可预测性。例如，AI可分析经济指标、人口趋势和环境数据，预测政策的潜在影响。

此外，AI还能通过模拟与预测建模，评估不同政策方案的长期效果，帮助决策者更科学地权衡利弊。

另一方面，传统政策制定往往受到政治利益、官僚主义或个人偏见的影响，而AI能提供相对客观的建议，使政策更加公平。

问一问ChatGPT是否赞成以AI取代人类做决策，它的回答如下：最佳模式是“AI+人类决策”──让AI负责数据分析、政策模拟和建议，但最终决策权仍应掌握在人类手中。同时，政府应建立严格的AI监管框架，确保其透明、公正，并符合道德标准。

看了它的答案，似乎已理解了“AI应该辅助决策者，而非取代人类主宰决策”的原则。这不仅是AI的观点，也符合大多数人的认知和共识。