消费者报告发现流行语音克隆工具缺乏安全措施

《消费者报告》的一项新研究发现,几种流行的语音克隆工具缺乏足够的保护措施来防止欺诈或滥用。该调查分析了六家公司的产品:Descript、ElevenLabs、Lovo、PlayHT、Resemble AI 和 Speechify。调查显示,只有 Descript 和 Resemble AI 实施了打击未经授权语音克隆的措施,而其他公司仅依赖用户自我证明其拥有克隆声音的合法权利。

《消费者报告》的政策分析师 Grace Gedye 强调了 AI 语音克隆工具带来的潜在风险,并指出如果不执行适当的安全协议,这些工具可能会显著增强冒充诈骗。Gedye 强调了公司采取基本预防措施来使未经授权的语音克隆更加困难的必要性,并指出一些公司目前未能做到这一点。

来源