（巴黎1日法新電）英國人工智能（AI）公司Eleven Labs的語音訊工具被人用來仿製名人的聲音、讓他們說一些種族歧視和恐同字眼後，公司今天表示，正在檢討自身“防護措施”。
法新社報導，Eleven Labs推文稱，公司度過一個“瘋狂週末”，並坦承在公佈這款工具的試用版幾天後，就發現“愈來愈多仿製聲音的濫用案例”。
ADVERTISEMENT
Eleven Labs未提供這些案例的細節，但它表示，網路論壇4chan湧入假借名人聲音來罵種族、性別歧視和恐同字眼的深度偽造（deepfake）之作。
許多貼文都提到Eleven Labs，一些用戶宣稱已被這家公司禁絕，另一些人則提供這款工具的試用版連結。
4chan論壇充斥冒犯他人的笑話而惡名昭彰。被論壇用戶盜用聲音的名人包括“哈利波特”電影的影星們，以及電影導演塔倫提諾、盧卡斯等人。
Eleven Labs號稱自家聲音仿製技術具備潛力，“可革新多種產業的內容製造、表達和互動方式”。
該公司曾製作一段宣傳影片，內容仿製其他名人的聲音來替影星里奧納度狄卡比奧配音。
Eleven Labs週二推文稱自家技術“絕大多數被用於正向用途”，但仍需要“額外防護措施”，考量中的選項包括手動核對每個仿製要求，或是讓帳戶認證措施變得更嚴格。
該公司目前正考慮的選項包括手動驗證每個仿製聲音請求或加強帳戶驗證。
人工智能工具接受了大量數據（圖片、音頻、文本或視頻）的訓練，這些數據基本上可以預測用戶想要什麼樣的輸出。
ChatGPT憑藉其只需幾個提示就能生成相對高質量文章的能力風靡全球。
至於Dall-e2和Midjourney等成像工具，就能夠以著名藝術家的風格生成複雜的圖像，正顛覆藝術和威脅設計世界。
不過，批評人士一直擔心仿製技術、尤其是音頻和視頻仿製技術，可能會導致深度偽造和虛假信息氾濫。
一些人工智能公司正面臨訴訟，人們指控這些公司使用他們的材料作為人工智能模型的基礎，侵犯了版權。
ADVERTISEMENT
热门新闻
百格视频
ADVERTISEMENT
