全球逾百领导科技巨头齐聚巴黎 AI峰会 DeepSeek成新焦点

2023年英国举办的峰会上，28国签署了不具约束性的宣言，旨在应对人工智能的风险。2024年，韩国峰会上，各国又签署了另一宣言，承诺建立公共人工智能安全机构网络以推进研究和试验。

专家将汇报AGI潜在危险

人工智能安全仍旧是今年巴黎峰会的议程之一，专家小组将汇报通用人工智能（AGI）可能存在的极端危险。这次峰会也将循例不产生任何约束性规范。

上个月DeepSeek的发布震惊了世界，因为它有能力与ChatGPT等西方公司相抗衡。同时，它也使北京和华盛顿在科技霸权问题上的地缘政治对决升级。

特朗普称，DeepSeek是对美国科技产业的“警钟”；如今DeepSeek聊天机器人正面对多国调查，并且因为隐私及安全疑虑而被美国等多个国家封禁。

英国广播公司称，DeepSeek“为（人工智能）这场讨论注入了新的活力”。报道称，DeepSeek“戏剧性地将人工智能竞争引向新的方向，峰会前人们突然有一种感觉，尽管美国拥有巨额财富和人工智能基础设施，但其在人工智能领域占据的领先地位可能并非遥不可及。”

专家吁加强AI监管

在巴黎AI峰会召开之际，世界各地的专家呼吁，加强对人工智能的监管，以防止其逃脱人类的控制。

美国“生命未来研究所”负责人、麻省理工学院的物理学家泰格马克经常就人工智能的危险发出警告。他表明，法国不应错失这一引领全球行动的机会。

全球风险与人工智能安全准备平台GRASP的协调员霍兹说：“我们已经确定了约300种应对这些风险的工具和技术。”该调查结果将提交给经合组织以及人工智能全球伙伴关系（GPAI）成员。

2月6日，由96位专家编写，并获得30个国家、联合国、欧盟及经济合作与发展组织（OECD）支持的《国际人工智能安全报告》正式发布。报告指出，AI技术的快速发展带来了从在线虚假信息到生物攻击和网络攻击等多种风险。

报告协调员、有“AI教父”之称的加拿大电脑科学家本吉奥指出：“越来越多的证据表明额外的风险正在浮现，例如生物攻击或网络攻击。”他还对未来可能发生的“AI失控”问题表示担忧，指AI系统或出于“自身的生存意志”采取自主行动。

泰格马克警告：“目前最大的问题是，许多掌握权力的人仍未意识到，我们距离实现通用人工智能比找到控制它的方法更近。”

AGI是指在所有领域都能与人类相媲美甚至超越人类的人工智能。OpenAI首席执行长阿尔特曼曾预言，AGI或在几年内实现。

泰格马克指出：“最糟糕的情况是，这些美国或中国的公司失去对这一技术的控制，然后地球就由机器人统治了。”

加州伯克利大学计算机科学教授罗素表示，他最担心的是由人工智能控制的武器系统能够自主决定攻击目标和时间。

马克龙：不应成“狂野西部”

须有规则监管AI

法国总统马克龙上周五在巴黎AI行动峰会举行前表示，人工智能（AI）的发展不应成为不受监管的“狂野西部”。

马克龙向法国地方报纸《西部报》和《巴黎人报》表示，“必须要有规则”，而且“在各种领域我们都不想要AI，因为我们不希望它在我们的社会中制造歧视或大规模控制。”

欧盟须加快速度开发

尽管如此，马克龙坚持认为“我们不应该害怕创新”。

马克龙表示，他将在峰会上试图调和这两种立场，而这将是一份“开放给任何国家完全自愿地，具有保护权利、环境、新闻诚信和知识产权的强有力原则之下签署的宣言”。

“欧盟必须准备好为完全自主和独立而战斗，抑或是我们会让竞争缩小到美国和中国之间的战斗？”

他还说：“如果欧洲对这个问题感兴趣，简化并加快速度，那就还有优势。”

马克龙呼吁“欧洲和经济爱国主义”购买本地开发的AI服务。他说，这有望提高欧盟的竞争力和生产力。

他说，届时冯德莱恩预计将宣布建造约10台公共超级电脑，供初创公司研究和使用的计划。

OpenAI首席执行员阿尔特曼上周五则表示，欧洲实施的监管可能会阻碍AI的发展，但他同时承诺，其公司将遵守新的欧盟法律。

在柏林工业大学举行的AI小组讨论会上，阿尔特曼被直接问及有关欧盟的《人工智能法》（简称《AI法》）。这项法律被认为是世界上最全面的新兴技术监管框架。

阿尔特曼说：“我们将遵守该法律，尊重欧洲人民的意愿”。

“不同的监管制度各有好处”，但他补充说，“这些制度将对经济产生影响，然后会转化为社会影响”。