星洲网
星洲网
星洲网 登入
Newsletter|星洲网 Newsletter 联络我们|星洲网 联络我们 登广告|星洲网 登广告 关于我们|星洲网 关于我们 活动|星洲网 活动

ADVERTISEMENT

ADVERTISEMENT

国际

|

天下事

发布: 6:00pm 07/02/2025

人类

AI系统

人类

AI系统

人工智能行动峰会 | 专家:将失去对AI系统控制  “人类恐10年内消失” 

天下事主文)国际安全报告警告恐“失去对AI控制” 专家忧人类10年内消失
“AI教父”本吉奥认为,我们迫切需要思考AI安全的问题。(美联社档案照)

(巴黎7日综合电)汇集了世界各国科学家的人工智能(AI)行动峰会周四在法国巴黎开幕。有“AI教父”之称的加拿大电脑科学家约书亚·本吉奥在大会上警告,各大科技巨头疯狂竞相开发更强大的AI,可能会造成“有害的”影响。他担忧,若安全问题无法解决,可能在10年内消失。

ADVERTISEMENT

这位2018年图灵奖得主在巴黎高等师范大学发表了由他监督编写的历来首份国际AI安全报告。

本吉奥指出已被广泛承认的人工智能风险,例如,AI被用来在网上创建虚假或误导性内容。

不过,这位蒙特利尔大学教授补充,“有越来越多的证据显示还存在其他风险,譬如生物攻击或网络攻击”。

他担心,从长远来看,人类可能会“失去对的控制”,而这可能是出于“他们本身的生存意志”。

DeepSeek出现“加速竞争”

本吉奥还说,上个月,低成本、高性能的中国AI模型DeepSeek的出现“加速了竞争,这对安全不利”。

他呼吁加强国际监管,并对AI安全进行更广泛的研究。目前AI安全只占该领域巨额投资的“一小部分”。

本吉奥说:“如果没有政府干预,我不知道我们将如何渡过这个难关。”

目前仍是世界领先AI国家的美国自特朗普就职以来已放弃前总统拜登试图对AI的开发实施一些规则的尝试。

本吉奥在发表报告时说,当OpenAI的ChatGPT两年前突然出现在公众视野中时,“我感到迫切需要思考这个安全问题”。

“最让我害怕的是人类可能在10年内消失。这太可怕了。我不知道为何更多的人没有意识到这一点。”

100专家参与AI安全报告编写

这份以本吉奥为首的国际AI安全报告编写工作是于2023年11月在英国举行的AI安全峰会上启动,有来自30个国家、联合国、欧盟和经济合作与发展组织(OECD)的约100名专家参与其中。

近百个参会国家能否在巴黎AI行动峰会,就AI的可持续发展达成一致备受关注,法国正努力推动欧洲在这一领域的崛起,希望藉此次峰会,在全球AI治理与发展中占据关键一位。

欧盟《人工智能法案》首批规定在上星期日(2月2日)正式生效,AI监管在也成为此次论坛的讨论重点之一,除了首日就相关议题的专题讲座外,联合国和经合组织将在周五的论坛上组织特别圆桌会谈,讨论如何通过国际合作加强全球AI治理。联合国计划成立的“AI科学独立专家组”也将成为讨论焦点,该专家组将为全球AI政策制定提供科学依据,特别是在支持欠发达国家获取AI技术方面发挥作用。

2月13至15日举办的世界人工智能戛纳电影节(WAICF)最终将标志巴黎AI行动峰会的闭幕。

天下事主文)国际安全报告警告恐“失去对AI控制” 专家忧人类10年内消失
为期两天的人工智能(AI)行动峰会周四在法国巴黎西南的萨克雷开始举行。(图:法新社)

打开全文

ADVERTISEMENT

热门新闻

百格视频

ADVERTISEMENT

点击 可阅读下一则新闻

ADVERTISEMENT