总统“现身”视频竟是AI伪造 印尼多人陷“派钱”骗局



(雅加达2日法新电)印尼总统普拉博沃头戴印尼传统的黑帽子,身穿印尼传统的黑衬衫,在Instagram上的一段视频中对着镜头讲话,询问人民在他去年当选后如何帮助他们。
在11月发布的视频片段中,他似乎在询问人们,“谁没有得到我的帮助?你现在需要什么?”
ADVERTISEMENT
不过,这原来是警方上月破获的一个深度伪造骗局的一部分,来自20个省份的印尼民众堕入这个骗局。
受害者被要求联系一个WhatsApp号码,并交出25万至100万卢比(合67至269令吉)作为“行政费”,以获得“援助”。
自去年印尼大选以来,专家们对深度伪造的浪潮发出了警告。一些音频、图像和视频看似来自一个已知的人,但实际上是骗子利用AI工具制作的。
受害者表示,这些骗局如此复杂,以至于其他人也很容易上当受骗。
56岁的阿雅尼说:“人们应该更加小心。不要轻易被奖品的诱惑骗了”。在看到一段深度伪造的印尼著名商人视频后,他向诈骗者交出了20万卢比(约54令吉)。
“我需要钱,却被要求先交钱。他们甚至和我视频通话,就好像我在直接和他们说话一样。”
在印尼总统竞选期间,深度伪造成为传播对候选人有害或有益的错误信息的主要工具。
然而如今,这项技术已经落入了那些罪犯手中。
法新社的事实核查人员发现,普拉博沃视频背后的账户发布了数十个类似的视频,似乎是各种知名人物的视频,包括印尼副总统纪伯伦。
印尼国家网络犯罪部门负责人希马万在2月告诉记者,警方逮捕了一名嫌疑人,他骗取了6500万印尼盾(约1.7万令吉)。
他说,警方拘留了另一起诈骗案的第二名涉案人员,该诈骗案也使用了深度伪造技术,但没有透露涉案金额。
法新社事实核查的调查发现,这类视频的传播范围比警方公布的两个账号要广泛得多。
尽管嫌犯已落网,但这位广受欢迎的前将军的深伪视频仍在社交媒体上流传,包括TikTok上的数十个视频,标签是“普拉博沃分享祝福”。
法新社发现,自普拉博沃去年10月上任以来,至少有22个TikTok账户在兜售同样的欺诈计划,其中一些账户似乎利用了他最近当选总统的机会。
一个拥有77000多名粉丝的账户在一段伪造的视频中获得了750万次观看,视频中普拉博沃显然是在派钱。
另一个拥有数千名粉丝的账户仅从1月份以来就分享了100个视频,其中大部分是总统派钱的深伪视频。
TikTok表示,已删除了其中一个深伪骗局视频和相关账户,并补充说,将继续删除任何违反该平台社区准则的视频,禁止发布误导性帖子。
脸书母公司Meta没有回应法新社的置评请求。
法新社和其他100多家事实核查机构由TikTok和Meta付费,以核实可能包含虚假信息的社交媒体帖子。
印尼事实核查组织Mafindo的联合创始人阿里博沃表示,他的团队每周都在发现新的深伪骗局,因为它们在网上广泛传播。
他告诉法新社:“自去年以来,随着AI工具变得更容易获得和负担得起,我们开始见到深伪视频泛滥。”
利用深伪假冒知名人物的骗局似乎与日俱增。
科技亿万富翁马斯克和加拿大总理杜鲁多是近年来一系列名人的目标,这些名人被复杂的模仿来推动现金骗局。
阿里博沃说,他的事实核查团队正在比以往任何时候都更加努力地利用犯罪分子可以获得的最新技术来揭穿这些骗局。
“我们注意到,随着时间的推移,这些视频的质量有所提高。区分真假视频变得越来越困难了,而挑战在于这些骗局的数量。”
ADVERTISEMENT
热门新闻
百格视频
ADVERTISEMENT
