周添健.从关税战谈秩序和人工智能的悖论

全世界在过去30年极大地享受了全球化所带来的利益，也为现今的危机埋下了种子。如今特朗普启动关税战，固然展现他狂人的本色，更大原因是他需要回应这些30年来不断蔓延和深化的危机。例如，他主张把就业机会带回美国，源于全球化格局下，美国企业外移以借助别国廉价的劳动力和资源来降低生产商品的成本，再以低关税让这些商品销往全球，包括回销美国让美国消费者享有廉价商品。制造业外移的代价是美国中下阶层失去了就业机会，加上低关税让他国商品以更低的价格打击美国本土的工业，加剧了美国工人失业的问题。

世界是一个复杂的系统，这个系统里有各种各样可能相互重叠和排斥的小系统，如国家、宗教、民族、国际组织、各行各业，阶级……系统任何局部的变化都可能影响全局。几千年来人类文明得以发展，一个重要的条件是人类建立了可以让个别系统得到共识并接受的“秩序”，然后按照这个秩序相处。一旦这个秩序对某些方面极为不利，就会被挑战乃至推翻。历史上的起义、革命、战争都可视为对秩序的挑战、摧毁和重建。

了解秩序对人类社会的重要性，可以让我们更深入检视当前红红火火的人工智能（AI） 所潜在的一个悖论。当前以机器学习和人工神经网络为主的人工智能，主要原理是从大量过往数据中观察现实世界的“规律”并找出可以涵盖大部分数据的“模式”。简而言之，AI模型源自底层的数据和数据隐含的秩序（规律和模式）——美国的数据隐含美国的秩序，中国的数据隐含中国的秩序。因此用美国数据训练的AI模型到了中国或许表现不佳，反之亦然，因为这两个国家有不同的秩序。

我们可以说AI模型之所以成立有赖于其本源的秩序，只有这个秩序依然有效的前提下，AI模型才会适用。吊诡的是，AI被视为改变原有秩序的技术，它的应用实际是在挑战它本源的秩序。一旦这个本源的秩序被AI改变甚至推翻，AI模型本身也会失效。这个悖论在AI的应用范围不断扩大到重大预测和决策的任务时，将随着时间的前进而显现出来。

AI是有用的技术，可是在应用时，我们必须先充分理解问题以及AI作为解决方案的适用性和局限。我最近重读2013年图灵奖得主，著名电脑科学家Leslie Lampart在1982年的一场研讨会演讲稿，把当中两段文字里的并发（concurrency）换成AI，情境和40多年后的今天是如此相似：

“我说想聊并发问题，别人的第一反应就是：‘你用了什么模型？’我想说的是：‘我们先搞清楚实际发生了什么，先从真实世界出发。模型应该是理解之后的产物，而不是出发点。’”

“这个世界不需要多十行并发算法的证明。世界真正需要的是一种方式，让像美国银行这样的机构能减少95%的系统崩溃……把这些理论证明方法真正带到现实世界中去。我强烈建议大家去敲美国银行的门，说：‘嘿，我们能帮你们什么忙吗？’”