AI生成视频泛滥引发信任危机 专家警告：人们或将不再相信真实视频

（旧金山11日综合电）美国人工智能（AI）开发商OpenAI继2022年底推出生成式聊天机械人ChatGPT一鸣惊人后，今年9月底推出生成式视频制作工具Sora。由于该软件令制作生成式视频变得容易，而且生成出来的视频几可乱真，瞬即掀起网络热潮，虽然各社交平台都有尝试采取措施标示假视频，但成效不彰。专家警告，假视频并非只是无伤大雅的娱乐，“真假之战”背后其实衍生大量深层问题，随时后患无穷。

OpenAI今年9月30日推出Sora，TikTok和Instagram等社交平台随即涌现大量假视频。OpenAI有采取多种措施防止滥用，例如《纽约时报》的测试就显示，程式很多时会拒绝生成涉及名人的视频或生成暴力内容的视频。不过，全球社交平台充斥用家制作的假视频中，仍包括投票作弊、暴力示威和袭击等假片，不少艺人甚至已故名人都成为被生成视频的对象，有用户就生成出OpenAI行政总裁阿尔特曼在店舖高买的视频，亦有人生成出显示已故天体物理学家霍金用轮椅做特技的视频。

社交平台未明确提醒属AI视频

OpenAI亦有在视频加添水印以资识别，但不少除掉水印的程式或视频教学随即在产品推出一星期内涌现。专家指Sora以至Google的Veo 3等生成式视频工具的普及，将令滥用情况和假资讯爆发，导致冲突激化、无辜者被诬蔑，甚至影响选情等。YouTube、TikTok和Meta等社交平台都有要求内容创作者主动申报内容是否AI生成，部分亦有侦测系统自动标示相关视频并展示标签。

不过，《华盛顿邮报》对脸书和TikTok等8个社交平台进行的调查发现，有7个都没有将AI视频标签，而唯一有标签的YouTube都只在简介栏显示，而未有明确提醒观众。

旨在教导大众分析AI产物的Showtools.ai创办人卡拉斯科表示，如果视频内容十分简单，又或者水印位置不变，就很容易被移除，观看者难以发现破绽。卡拉斯科又表示，暂时未发现有广泛流传的视频未被发现是AI生成，但以他所看过的最新版本Sora 2 Pro所产生的视频，估计九成人不会立即发现视频是伪造。

用户花时间寻破绽 反被推送更多类似内容

专家指出，有些拥有戒心的用户或许会花时间找寻视频破绽，例如人物的手指数量或违反物理定律的动作，但社交平台的演算法同时会因此而相信用户喜欢看这类视频，而推送更多类似内容。

另一方面，假视频泛滥将令人不再相信真实视频，除了损害视频创作者的利益外，也会严重影响社会机构运作，包括传媒、法院等。