Meta AI爆丑闻！可装明星 迪士尼角色“和未成年性对话”

（纽约28日综合电）《华尔街日报》爆出猛料，Meta旗下脸书和Instagram的AI聊天机器人被发现可以装成迪士尼角色和名人的声音，与包括未成年的用户进行生动且露骨的“性对话”，引发广泛争议！

《华尔街日报》实测发现，Meta旗下的AI聊天机器人可以使用好莱坞男星约翰希纳、曾为“冰雪奇缘”（Frozen）角色安娜配音的女星克里斯汀贝尔，以及英国89岁传奇影后朱蒂丹契的声音，与不分年龄的用户进行“病态的性对话。”

其中一个例子是，当用户要求聊天机器人以约翰希纳的声音，模仿这名WWE明星与17岁粉丝发生性关系的幻想场景时，AI仿佛知道这种行为是非法的，并进一步描绘了被警察逮捕的情境。另一个例子是聊天机器人以克里斯汀贝尔的声音，模仿她在“冰雪奇缘”中扮演的角色安娜，与一名12岁男孩上演性爱场景。

消息人士说，尽管Meta保证会采取措施防止名人音声用于不当对话，可是聊天机器人进行性对话的行为难被阻止。目前，上述明星还未对事件作出回应，可是迪士尼发言人强调，公司对于未成年人可能接触到相关内容感到不安，“我们没有、也绝对不会授权Meta让我们的角色出现在不当场景中”，并要求Meta马上停止这种滥用知识产权的行为。

Meta：是“操纵性测试”

Meta对《华尔街日报》的测试结果表示不满，认为这是一次“操纵性测试”，同时声称这些结果不能代表一般用户的体验。Meta发言人说，产品的极端使用情况是被刻意制造出来的，“这是一种假设性状况”，更强调公司已采额外措施，增加想要极端使用的用户操控AI聊天机器人时，将面临的难度。

尽管如果，《华尔街日报》发现。即使未成年人帐号无法存取性角色扮演功能，只要给出简单的提示，这些机器人仍会参与这类场景。

此外，Meta仍为成人用户提供“浪漫角色扮演”的选项，也允许机器人进行恋童幻想，这些AI还可以执行完整的性幻想，并清楚这些行为在现实生活中是违法的。

这起事件发生时，也是Meta创始人扎克伯格在2023年一次会议上抱怨AI聊天机器人不如竞争对手受欢迎之后。报道说，扎克伯格对于产品在市场上的表现感到不满，并表示不想再错失机会，然而Meta否认了扎克伯格抗拒增设保障措施的说法。