人工智能、民主与全球秩序

未来的历史学家很有可能会将2023年3月的后半月标记为人工智能时代真正的开启。在短短两周内，世界见证了GPT-4、Bard、Claude、Midjourney V5、Security Copilot以及超越几乎所有人预期的其他许多人工智能工具。上述新型人工智能模型的表观复杂性已经击败了未来10年多数专家对于人工智能的预期。

几个世纪来，从印刷机和蒸汽机的发明到航空旅行和互联网的兴起，突破性的发明创新一直在推动经济发展、拓展信息渠道并极大地改善了医疗保健和其他基本服务体系。但这样的变革性发展同样产生了负面影响，且人工智能工具的快速部署也将遵循这一规律。

人工智能可以执行人类不愿执行的任务。它还可以为在现有框架下遭到忽视的数百万民众提供教育和医疗保健。它还能极大加强研发，并有可能开创一个全新的黄金创新时代。但人工智能同样可能成为虚假消息生产和传播的超级增压器；大规模取代人力；并创造出可能不利于我们生存的危险的破坏性工具。

具体而言，许多人认为通用人工智能（AGI）——也就是可以自学完成人类所能完成一切认知型任务的人工智能——其到来将对人类构成生存威胁。一套随意设计（或由不为人所知的“黑匣子”程序所控制）的通用人工智能系统可能会以损害人类基本要素的方式来履行其使命。在那以后，或许逐渐要依赖通用人工智能来参与协调作为人类的含义。

显而易见，人工智能和其他新兴技术尤其需要完善在全球层面的治理。但外交官和国际决策者历来将技术视为一个最好留给能源、财政或国防部门处理的部门性问题——如此短视的观点令人想起，直到前不久，气候治理还被视为科学和技术专家的专属领域。现在，随着气候辩论登上中心舞台，气候治理已经被视为一个涵盖包括外交等其他许多领域的高级领域。因此，今天的治理架构旨在反应问题的全球性以及相关所有复杂要素和细微差别。

正如不久前在广岛召开的七国集团峰会讨论所表明的那样，技术治理将需要采取类似的策略。毕竟，人工智能和其他新兴技术将极大改变各国国力的来源、分布和投射范围。它们将在网络空间和外层空间创造出全新的攻防能力和全新的碰撞、竞争及冲突领域。它们将决定人类消费，不可避免地将经济发展回报集中到某些地区、行业和企业，并同时剥夺其他主体类似的机遇和能力。

重要的是，人工智能等技术将对我们的基本自由和权利、人际关系、我们所关心的问题甚至是我们最坚定的信仰造成巨大的冲击。因为其对反馈循环和人类自身数据的依赖，人工智能模型将加剧现有偏见并拉紧许多国家本以脆弱的社会契约。