星洲网
星洲网
星洲网 登入
Newsletter|星洲网 Newsletter 联络我们|星洲网 联络我们 登广告|星洲网 登广告 关于我们|星洲网 关于我们 活动|星洲网 活动

ADVERTISEMENT

ADVERTISEMENT

星洲人

|

会员文

|
发布: 7:30am 17/01/2025

网络诈骗

谭政宗医生

人工智能

通讯部

政言君子

人工智能治理和道德准则

深度伪造技术

星洲人时事观点

谭政宗.立法监管人工智能势在必行

我们有必要设立一个专门的监管机构,类似于大马人工智能委员会,以监管人工智能在各领域应用的合规性。

日前,一名美国士兵在拉斯维加斯特朗普酒店外引爆一辆特斯拉赛博越野旅行车,并利用ChatGPT等生成式人工智能工具协助策划袭击。这次事件导致7人受轻伤,暴露了人工智能技术可能被滥用的风险。

ADVERTISEMENT

在大马,人工智能技术虽然尚处于发展初期,但它的潜在弊端已然显现,特别是和虚假信息传播。副部长张念群此前曾批评Meta等科技巨头在打击网络犯罪上的不作为,直言这些巨头只顾追逐广告利益,却沦为诈骗集团的“帮凶”,凸显了人工智能监管的迫切性。

人工智能的迅速发展为全球带来了前所未有的机遇,但也引发了一系列伦理、法律和社会问题。从医疗到金融,人工智能技术已被广泛应用。例如,人工智能演算法可以帮助银行预测市场趋势,以及提高医院的诊断效率。然而,诈骗集团也利用人工智能生成的虚假广告和合成视频蒙骗大众。在AI技术快速普及的背景下,我们需要一套完善的监管框架,减少人工智能滥用问题。

事实上,世界各国已经采取行动,试图立法为人工智能技术的发展设定界限。例如,欧盟提出的人工智能法案通过对人工智能应用的风险分级管理,对潜在高风险领域进行了严格限制。美国也加强了对人工智能技术的监管,将其列入国家安全优先议题。

在我国,人工智能技术滥用的一个鲜明例子,便是诈骗集团利用(deepfake)制作虚假的名人视频,以冒充身份推广所谓的投资项目。例如,首相安华及前国家银行总裁洁蒂都曾是AI生成视频的目标,而部分知名网红也遭遇类似情况。这些伪造视频不仅混淆视听,模糊了真相,更有可能误导民众,导致他们陷入财务陷阱。特别是那些对人工智能技术了解不足的普通网民,以及辨别能力相对较弱的老年群体,更容易成为受害者。我们必须对这些案件保持高度警惕,因为每一起网络诈骗的背后,不仅是普通百姓血汗钱的损失,更是对社会信任体系的深度侵蚀。

因此,虽然我国去年杪已经推出人工智能治理和道德准则,不过笔者相信大马还是需要尽快建立一套全面的人工智能监管体系,以防止此技术的滥用。这项立法应优先关注以下几个方面。首先,我们必须明确人工智能技术的应用范围,并对高风险领域(如金融)进行严格审查。其次,我们必须立法要求开发者公开演算和储存机制,确保人工智能系统的透明度。最后,我们必须制定明确的法律责任划分,让开发者、运营者和使用者都对人工智能的行为结果负责。

与此同时,我们有必要设立一个专门的人工智能监管机构,类似于大马人工智能委员会,以监管人工智能在各领域应用的合规性。这个机构必须对人工智能的伦理问题进行审查,同时为公众提供关于人工智能风险的教育,增强全民对人工智能的理解和辨别能力。只有这样,民众才能在享受AI带来便利的同时,免受其负面影响的侵害。

人工智能的治理早已超越国界,成为全球关注的议题。技术的跨国性与复杂性,使得任何单一国家都难以独自应对其带来的挑战。因此,马来西亚必须抓住东盟轮值主席国这一契机,积极团结东南亚国家,共同构建一个适合区域特色的人工智能监管框架。

与此同时,加强国际合作尤为重要。马来西亚应主动参与全球人工智能监管论坛,参考其他国家的监管经验,并推动区域内外的对话与协作。在此过程中,与科技企业建立紧密的合作关系也将是关键,这不仅能更好地规范技术发展,还能助力本地创新生态的成长。

凭借东盟主席国的独特平台,马来西亚不仅可以提升国内AI治理水平,还能在东盟范围内扮演引领者的角色,为区域内的人工智能发展注入新的动力。

任何科技发展,包括人工智能,是一把“双刃剑”,既可以帮助人们实现突破性发展,但也可能引发灾难性的后果。如果继续在人工智能监管领域踟蹰不前,未来可能不得不为技术滥用付出更大的代价。

政府和社会各界必须在监管人工智能的道路上齐心协力,迅速制定和实施相关法律,为国人筑起一道防护墙,为国家建立一个安全、透明和可持续的人工智能发展环境。

ADVERTISEMENT

热门新闻

百格视频

你也可能感兴趣
 

ADVERTISEMENT

点击 可阅读下一则新闻

ADVERTISEMENT