温思拯.AI换脸色情案敲响警钟

英国儿童网络安全组织Internet Matters发布的2024年度报告显示，在目前流传的深度伪造色情内容中，高达99%的受害者是女性及未成年女孩。这一数据充分说明，本应推动社会进步的AI技术，在某些情况下竟异化为针对特定性别群体的暴力工具。

媒体报道披露，本案涉案男生早在小学六年级时，就曾利用AI技术伪造同年级女同学的照片。由此可见，该学生虽然掌握了较为先进的人工智能技术应用能力，却严重缺乏相应的数字伦理素养和道德观念，所以才会犯下如此恶劣的违法行为。

另一方面，许多青少年往往因为认知不足而遭受侵害。比如在不知情的情况下，下载使用“脱衣AI”（Undress AI）这类恶意应用程式。

因此，我们必须从小学阶段就开始系统性地开展AI伦理教育。笔者建议教育部联合相关机构，共同制定《深度伪造技术──家长及青少年指南》，以全面教导何为深度伪造、其危害以及如何自我保护。

此外，政府应当加快立法进程，并与科技行业建立合作机制，切实保护妇女儿童免受深度伪造技术的性侵害。例如，立法禁止使用裸体深度伪造工具，并通过关键词识别屏蔽利用AI篡改或合成的相关照片。

在英国，制作色情类深度伪造内容已被明确列为刑事犯罪行为，这一规定不受制作者传播意图的影响。

2024年4月，英国政府进一步强化了相关惩处力度；当违法行为同时涉及制作和传播两个环节时，检察机关可提出多重指控，犯罪嫌疑人将面临更为严厉的刑事处罚。这项立法的核心目标在于加强对深度伪造技术主要受害群体，尤其是女性群体的法律保护。

人工智能的普及在带来社会便利的同时，也降低了犯罪的门槛。这起“换脸”不雅照的案件是大马发展和优化人工智能素养的一记警钟──我们必须加快提升全民人工智能素养，制定相关法律法规，才能确保技术发展造福人民。