美国前总统特朗普日前预告自己3月21日会被逮捕,虽然没有如期发生,但有网民利用AI制图软件,合成出各种“特朗普被捕”的滑稽照片。这些照片有的带有明显的“造假”痕迹,比如警察面部扭曲、特朗普长出三条腿等,但有的几乎达到可以乱真的程度,让部分网民信以为真。
专家指出,随着AI技术的发展,未来的网络世界可能充斥假新闻,普通人将越来越难以辨别。
ADVERTISEMENT
“突发:特朗普今早在曼哈顿被捕!”一条这样的推文,再配上几张警察制服特朗普的照片,近日在社交媒体平台病毒式传播。但这并非特朗普预言成真的“被捕瞬间”,而是网民利用AI制图工具合成的照片。
这些照片描绘了纽约警察按住反抗的特朗普;特朗普持枪逃窜;特朗普的牢狱生活等等。仔细观察这些照片,可以发现警察制服上的文字乱七八糟,有的人物面部扭曲、手指抽搐,还有一张照片中,特朗普长出了3条腿。
新闻机构Bellingcat创始人希金斯21日在社媒平台推特上分享了“特朗普被捕”照片,他表示,这些照片是由Midjourney生成。
Midjourney是一个能够快速生成AI制图的平台,用户输入关键词后,能在一分锺内通过AI算法生成相对应的图片。希金斯所使用的关键词包括“特朗普被捕时摔倒”、“黄金比例”及“新闻镜头”等。虽然希金斯在原始帖文中注明照片是AI合成,但大量网民在二次传播这些照片时,并没有注明AI制图。
21日正是特朗普预告自己会因“封口费”案件被捕的日子。纽约警察局当天不得不公开发布声明:“特朗普没有被纽约市警察局拘留。”
希金斯表示:“我原以为人们会意识到特朗普不应该有3条腿,但有些人还是将这些照片当成真的。”
人工智能和合成媒体领域专家阿杰德表示,虽然对于那些了解AI领域的人来说,“特朗普被捕”照片可以说是一眼就能看出是假的,但并非每个人都知晓AI的发展速度,而当用户浏览社媒平台时,可能不会仔细查阅帖文内容,而是会快速划过预览界面,因此受到蒙骗。
布鲁金斯学会AI和新兴技术计划主任梅瑟罗指出,“特朗普被捕”的照片或许无法让人相信,但仍可以挑动公众的情绪,如果特朗普的支持者或反对者受到画面的刺激,可能做出冲动之举。
欧洲刑警组织去年发布报告,专家估计,到2026年,多达90%的网络信息可能是由AI合成。
微软公司22日宣布,在搜索引擎Bing和浏览器Edge中增加AI制图功能,用户只需输入文字描述,就能生成相应图片。这一新功能名为Image Creator,由OpenAI旗下的的AI绘图工具DALL.E提供支持。
微软副总裁迈赫迪表示:“我们会注明相关图片是由AI生成,并在每张图像的左下角加上Bing图标,以帮助证明该图片是使用Image Creator创建的。”
惟专家警告说,微软太快将AI文本转图片功能引入搜索引擎,可能会导致虚假信息大肆传播。
微软创办人比尔盖茨21日发文称,AI是数十年来最重要的技术进步,他同时呼吁政府和业界合作,限制AI带来的风险。
ADVERTISEMENT
热门新闻
百格视频
ADVERTISEMENT