FTC提供25,000美元奖励人工智能语音克隆挑战

AI伦理与社会5个月前发布 yundic
417 0 0

美国联邦贸易委员会(FTC)的任务是保护消费者免受欺诈和诈骗,但不断改进的人工智能语音克隆使这一挑战变得更加困难。

虽然人工智能语音克隆引发了无数辩论,但也有一些合法的使用案例使这项技术值得追求。

为失去声音的人恢复个人沟通方式,或在最初的配音艺术家去世后很久给熟悉的电影角色配音,只是两个例子。去年,纽约市长埃里克·亚当斯(Eric Adams)使用人工智能克隆语音,以多种语言与城市居民交流。

但这项技术也使骗子和欺诈者在接听电话时更容易误导不知情的人。去年,McAfee的一份报告指出,人工智能语音欺诈有所增加,FTC警告消费者注意“家庭紧急诈骗”,即来电者假装是陷入困境的家庭成员。

FTC提供25,000美元奖励人工智能语音克隆挑战

一个家庭紧急诈骗电话。资料来源:FTC

除了结束通话,然后打电话给你的号码上的人,很难从真人中识别人工智能语音克隆。

FTC已经向个人或组织发出挑战,要求他们提交“旨在防止、监控和评估恶意使用语音克隆技术的突破性想法”。

挑战赛从1月2日持续到1月12日,获胜的创意将获得25,000美元的奖励。如果你有什么好主意,可以在这里提交。

提交的材料至少需要涉及公平贸易委员会希望实现的以下三个干预点中的一个:

  • 预防或认证:必须提供一种方法来限制未经授权的用户使用或应用语音克隆软件。
  • 实时检测或监控:它必须提供一种方法来检测克隆语音或使用语音克隆技术。
  • 使用后评估:它必须提供一种方法来检查音频剪辑是否包含克隆的声音。

联邦贸易委员会消费者保护局局长Samuel Levine说:“我们将利用一切手段防止滥用语音克隆技术对公众造成的伤害。

作为联邦贸易委员会可能会将这些骗局的责任转移到哪里的一个迹象,斯蒂芬妮T。FTC首席技术官Nguyen说:“挑战的制定方式是确保公司对他们发布的产品的一级和二级影响负责。

这可能很困难,甚至是不可能做到的。即使声誉良好的公司在他们的工具生成的音频中添加“水印”,也已经有开放源代码的解决方案可供诈骗者免费使用。

如果你给某人发送了语音留言,在应答服务上留言,或者在YouTube上发布了自己的视频,那么任何人都可以用它来克隆你的声音。

随着生成人工智能的改进,我们最好的防御措施可能是变得更加怀疑,不要太快地相信我们的眼睛和耳朵。

© 版权声明

相关文章

暂无评论

暂无评论...