意禁聊天机械人Replika收集资料

美国三藩市企业Luka在2017年推出人工智能聊天机械人Replika，能与客户谈话及倾听说话，意大利近日禁止Replika使用意国用户个人资料。“虚拟伴侣”Replika的部分用户只是想要陪伴，也有些人想要发展恋情、性爱聊天，甚至想看聊天机械人的性感照。

去年底，有用户开始投诉Replika使用过于露骨的文字和图片，有些人认为已经属于性骚扰范畴。意大利监管机构在发现Replika违反欧盟《通用资料保护规则》（GDPR）后，上周禁止Replika收集数据。

Replika如今恐怕又面临欧盟更严格规范。欧盟根据《通用资料保护规则》，已对多家屡次违规的大型科技公司，处以数十亿美元的罚款。

意大利当局的决策表明，这项规则可能成为最新一代聊天机械人的天敌。目前，欧盟是讨论管控这些新一代机械人的中枢，他们的人工智能法案（AI Act）已经在高层之间琢磨好几个月，可能会在今年定案。

这些新一代聊天机械人和支撑它们的所谓生成式人工智能，有望彻底改变网络搜寻领域。专家警告，监管机构需要担心许多问题，尤其是当机械人变得如此强大，以至于无法辨识它们跟人类的不同。