星洲网
星洲网
星洲网 登入
Newsletter|星洲网 Newsletter 联络我们|星洲网 联络我们 登广告|星洲网 登广告 关于我们|星洲网 关于我们 活动|星洲网 活动

ADVERTISEMENT

ADVERTISEMENT

伪造

5天前
1星期前
3星期前
1月前
1月前
1月前
2月前
2月前
2月前
2月前
2月前
3月前
3月前
3月前
手机屏幕亮起,我听见那熟悉的声音从剪辑程式中流出,声音中的语气、节奏、咬字都与我一模一样。 那是我的声音,却又不是我的声音。 我们活在一个声音可以复制的时代。我只需在某个程式中上传几秒钟的语音样本,再输入我想生成的内容,AI就能自动生成一段与我声音无异的音频,音频中的语气、节奏、情绪等都极其逼真。我甚至可以从它的几十种声音模板中任意挑选,输入一段文学,再点击屏幕,冰冷的文字就可以摇身一变成柔和的女声、浑厚且富有磁性的男声或稚嫩清亮的童声。少年音、成熟男性音,御姐音、萝莉音等各种声音都像是一层随时可披上和替换的人皮,语气、说话节奏、情绪等都似可被调节的四肢。一切看似完美,但我知道那些声音背后没有呼吸,没有表情,没有情绪,声音背后仅有一组组计算和模拟人类情绪的数据。 声音成了不法分子的武器 声音成为可被精准调控的工具,我们所听见的声音背后都不是活人,却被调控成了活人鲜活的语调。层出不穷的AI换音手段,使声音不再是人类的专属。我们无法通过耳朵去判断一个人是否存在,或是否说过什么。你所听见的熟悉声音,可能只是一段数据合成的声音。 如今,声音也能成为不法分子的武器。我们无法判断听见的声音背后是家人痛苦的求助?还是精心策划的骗局?有时候,一通电话中熟悉的声音也能成为骗徒最强大的伪装。那天,我阿姨接到了一个陌生来电。来电者自称是阿姨的儿子,因一些误会正被警察拘留。带着哭腔的熟悉声音令我阿姨心头一紧,她没有怀疑儿子为何通过陌生手机号致电给她,也没有怀疑他言语间的漏洞。她孩子正无助地向她求援,她一时乱了方寸,顾不上思索其他疑点。她忐忑遵循着电话中的指示,正欲按下手机上的网页连接。 突然,来电者的一声“妈咪”令她猛然惊醒。她儿子从小到大都叫她“妈”或“老妈子”,从未用过“妈咪”这种称呼。这一声“妈咪”让她心生怀疑,赶忙挂断电话,拨通了儿子的手机号码。事情不出她所料,她儿子正在工作,并不似来电者说的被警察拘留。随后,阿姨一家反复思索电话那头传来的熟悉声音,最终推断来电者或许采用了最新的AI换音技术。 来电者或许通过某种手段获得了我表哥的声音,再使用科技生成了表哥的声线。如今,骗徒只需一次通话录音就能模仿我们向父母求救或向朋友借钱。他们不需要对我们有太多了解,只需得到一段几十秒的语音,就能复制出一个足以迷惑亲人的“我”。AI可以模仿我说“妈”,以哭腔和家人诉说“我出了事,急需用钱”。人往往容易相信熟悉的声音,尤其听到亲人“出事了”的时候。慌乱之中,我们往往来不及分析语句是否合理,也顾不上确认身分的细节。担忧的情绪主导了我们的感知,情绪导致我们轻易坠入骗徒的陷阱。 AI技术正在挑战我们对声音的信任。过去我们会反复确认文字是否出自对方,如今得知图像也能伪造的我们,也开始反复确认图像的真实性。声音是我们最后的防线,我们始终坚信声音难以仿造,冰冷的科技难以伪造出人类独有的情绪,生成有温度的声音。殊不知声音这道防线如今也已被技术绕过,声音也能伪造和复制。 所幸,AI换音技术尚未完全成熟,想得到AI生成的各种声线往往需要付费,否则人人都可以轻而易举地窃取他人的声音。嫌弃自己声音不够动听的人可以肆意使用AI生成的各种优美声线,用以网上聊天。当我们开始习惯隐藏于“虚假”的美好声音里,我们或许会在无声中丢失了自己原有的声音。AI生成的声音很动听,但AI没有人独有的生活经历,也不会有情绪的压力,所以AI说话时不会喘息,不会在说某些词语时声音颤抖或结巴。喘息、忘词、时大时小的声调等等瑕疵构成了人类说话的痕迹。 我们不需要最完美的声音,或许我们的不完美恰恰是最真实的证明。在声音可以伪造的时代,我们难以分辨声音背后到底是谁。“耳听为虚,眼见为实”这句话在AI时代被重新赋予了定义。
3月前
3月前