(华盛顿8日法新电)根据周二发布的一份研究报告,网络平台上出现一些奇怪的媒体,其“新闻播音员”看起来惊人地真实,但他们实则是人工智能(AI)深度造假所创造的假主播,而这些视频被指与中国政府有关。
美国社交媒体分析公司Graphika在报告中称,这些假主播是一家名为《狼新闻》的虚构新闻机构的主播,由人工智能软件创建,出现在社交媒体上的视频中播报亲中的虚假消息。
ADVERTISEMENT
Graphika的情报副总裁斯塔布斯告诉法新社说:“这是我们首次看到一个国家相关行动使用人工智能生成虚拟人物,并制作视频片段传播欺骗性的政治内容。”
在Graphika分析的一段视频中,一位自称亚历克斯的“男主播”批评美国对困扰该国的枪支暴力不作为。在第二个节目中,一位“女主播”则强调了中美“大国合作”的重要性。
人工智能的进步引发了全球对该技术潜在的虚假信息和滥用的担忧,包括无中生有的深度造假图像,以及人们嘴里说着他们从未说过的话。
去年,脸书母公司Meta表示,他们撤下了一段深度造假的视频。视频中乌克兰总统泽连斯基促请人民放下武器,向俄罗斯投降。
中国方面没有立即对Graphika的报告发表评论。就在几周前,北京方面出台了广泛的规则来监管深度造假。
中国上月实施了新规定,要求提供深度造假服务的企业获取用户的真实身份。他们还要求对深度造假内容进行适当标记,以避免“任何混淆”。
中国政府警告称,深度造假“对国家安全和社会稳定构成威胁”。
Graphika的报告称,几乎可以肯定,这两位《狼新闻》主播是使用伦敦人工智能初创公司Synthesia提供的技术创造出来的。
该网站没有立即回应法新社的置评请求,网站广告称,该软件可以“根据真实演员的视频片段”创建深度伪造虚拟形象。
Graphika表示,该公司在追踪被称为“Spamouflage”的亲中国虚假信息行动期间,在推特、脸书和YouTube等平台上发现了深度造假。
斯塔布斯说道:“Spamouflage是一个亲中国的影响力操作,主要是放大低质量的政治垃圾视频。”
“尽管使用了一些复杂的技术,但这些最新的视频大同小异。这显示了在影响力行动中使用深度造假的局限性——它们只是日益先进的工具箱中的一个工具。”
ADVERTISEMENT
热门新闻
百格视频
ADVERTISEMENT