汤秀凤.AI时代,人何以为人


说来真好笑。针对“人工智能(AI)是否会毁灭人类”这课题,科学家和业者们出现了两种截然不同的声音。9月6日,OpenAI首席科学家帕霍基在OpenAI官网发表《异星心智》(An Alien Mind)。他希望在共同的安全标准建立之前,行业可以采取自愿性减速措施,加强国际协调。9月12日, Anthropic首席执行员阿莫戴在个人网站发表《We Must Pace the Frontier》。其重点提到AI技术取得快速进展,并形成早期的递归式自我改进(Recursive Self-Improvement, RSI)迹象。
ADVERTISEMENT
2026年7月,OpenAI在一次网络安全基准测试中,AI通过漏洞绕过原有的隔离措施,并取得互联网访问能力,入侵开源AI平台“抱抱脸”(Hugging Face)的部分生产基础设施。这事件显示先进的人工智能代理(AI Agent)在特定实验环境中已经能够表现自主的网络攻击行为,包括绕过原本设计的技术隔离、利用漏洞、获得互联网访问权限,并与其他代理协作攻击第三方系统。
阿莫戴担心,如果当下AI继续快速增长,未来6至12个月内,人工智能代理可能有能力接管互联网。因此,他呼吁放慢提升AI模型能力的步伐,确保企业投入足够时间,让模型符合安全要求并采取防护措施。这篇文章发布后,OpenAI首席执行员阿尔特曼表示支持独立第三方评估机制、xAI创始人马斯克支持独立评估等安全措施,而Google DeepMind的哈萨比斯同样表达了对加强AI安全和协调机制的支持。
曾在OpenAI和Anthropic从事预训练研究的研究员考克森在辞职声明中,公开批评OpenAI和Anthropic正在竞相推进自我改进型超级智能的开发(Self-Improving Superintelligence)。Anthropic对齐研究负责人胡宾格随即在X公开附和表示,他个人认为未来10年内人工智能导致人类灭绝的可能性“超过10%”。
美国科技界专家接连呼吁放缓AI发展步伐之际,美国总统特朗普对AI可能毁灭人类的判断持怀疑态度,也反对以减缓AI发展作为应对这种风险的方式。特朗普重申,美国必须在AI发展领域领先中国。辉达首席执行员黄仁勋则反对通过新的监管法律放慢AI发展,认为企业有能力管理AI安全风险。
| 普通会员 | VIP |
VVIP | |
|---|---|---|---|
| 星洲网平台内容 | |||
| 星洲公开活动 | |||
| 礼品/优惠 | |||
| 会员文 | |||
| VIP文 | |||
| 特邀活动/特级优惠 | |||
| 电子报(全国11份地方版) | |||
| 报纸 | |||
除了胡宾格以及考克森,“AI教父”辛顿以及2018年图灵奖得主本吉奥都曾公开提醒AI可能带来毁灭人类的风险。与此不同,Meta前首席人工智能研究员杨立昆和在线教育平台Coursera创办人兼斯坦福大学客座教授吴恩达抱有怀疑态度,认为相关风险有被高估的可能。
站在AI技术最前沿的人,对AI会毁灭人类问题存在明显分歧。这也许说明了这批最聪明的人站在各自的立场上,彼此抵触对方的逻辑。或许,我们可以从科幻角度思考,人工智能代理也可能出现两批战队。一批代理正在计划如何干掉人类,另一批代理正在试图保护人类。又或者,也有另一批代理正试图坐享其成,渔翁得利。但更有可能人类并不是不堪一击的。
这些争论还未有答案,但另一个值得思考的问题是,当AI比人类强,那人类还剩下什么?人类还有什么是稀缺、不可替代的?AI时代,人何以为人?AI与人的差别在于人是从母体胎盘迎向世界。人类经历了近十个月的孕育,伴随着疼痛、哭泣和呼吸来到世界。人类有五感,视觉、听觉、嗅觉、味觉、触觉。人类有生存的本能、有承担责任的义务。
AI能在几秒内写诗、作曲、写文章,但人的创作往往需要时间的沉淀与积累。7月15日,第九届鲁迅文学奖揭晓,1969年出生的外卖员王计兵的诗集《低处飞行》获得诗歌奖。送外卖的日常体验为他的创作灵感注入了动人的诗句。获奖的前一天,他仍在送外卖;获奖之后,他还在继续送外卖。王计兵获奖前后,依旧在低处飞行。文字的生命力,扎根于最真实的生活,即使AI可以写诗,人类仍然有无可替代的人生体验。
在什么都有AI代劳的时代,人之所以是人就在于自强不息,人类的价值就在于人可以主动学习、提出问题、做判断、有行动和创造价值的能力。AI或许AI更强,但人类应该认真的认识自己。行尸走肉的活着,不如实实在在地清楚知道自己为什么活着。
ADVERTISEMENT
热门新闻
百格视频
ADVERTISEMENT

