深度假音频变得更容易制作,更难检测

AI伦理与社会4个月前发布 yundic
322 0 0

假人工智能克隆的声音最近因一个“拜登”机器人呼叫而成为新闻,但随着这项技术变得越来越容易获得,更难被发现,普通人正在受到影响。

两周前,派克斯维尔高中校长埃里克·斯沃特的一段录音被公布,其中听起来像是斯沃特对教职员工和学生发表了种族主义和反犹太主义的评论。

麦克尔沃特否认了音频的真实性,这一立场得到了代表巴尔的摩县行政管理人员的行政和监督雇员委员会执行主任比利·伯克的支持。

伯克说:“我们相信它是人工智能产生的。”“他没有这么说。”

在人工智能造假的时代,“骗子的红利”给了任何人一个容易哭“假!”在一个紧张的地方。与此同时,人工智能语音克隆也会对像Wartwert这样的普通人造成很大的声誉损害。

你觉得呢?假的还是真的?

 

在Instagram上查看此帖子

 

@Murder_ink_bmore分享的帖子

要么音频是真的,他应该被解雇,要么它是人工智能假的,有人应该被起诉。

两周后,没有人知道,所以艾斯沃特的工作和声誉仍然悬而未决。这归功于这些语音克隆工具的出色表现以及这项技术带来的复杂问题。

一年前,我们可能会驳回Rewert关于人工智能造假的说法,认为这种先进的人工智能技术并不存在。现在,像Eleven Labs这样的公司或像Parrot AI这样的廉价工具,让任何人都可以轻松地制作出令人印象深刻的语音克隆。

本月早些时候发布的OpenVoice仅使用几秒钟的音频来克隆语音,并允许对情绪、口音、音调、节奏等进行精细控制。

哈尼·法里德是加州大学伯克利分校的教授,专门从事数字取证和数字媒体认证。当WJZ的一名记者要求分析这段视频时,法里德说,这段视频显然是经过编辑的,但除此之外,他无法证实这是不是真的。

在接受《科学美国人》采访时,法里德说:“我已经用我们的一些工具分析了音频,这些工具还没有公开提供。我认为这很可能–但不确定–这段音频是人工智能生成的…总体而言,我认为证据表明这段音频是不真实的。但在做出最终决定之前,我们需要了解更多情况。

法里德说,世界上可能只有5个或更少的实验室可以可靠地确定音频是人工智能的假的还是真的。

Dudesy制作的George Carlin的人工智能克隆是一个很好的例子,说明人工智能语音克隆如何在匹配音调和情感方面变得非常出色。这段视频从此不可用。

www.example.com聊天机器人背后的人已经建立了一场模仿特朗普与拜登的辩论。“特朗普”和“拜登”说的话太疯狂了,显然是为了喜剧效果,但听起来真的很棒。

随着这些工具变得越来越好,越来越自由,巴尔的摩校长面临的情况将越来越多地影响政治家和普通人。

如果你发送了一条WhatsApp语音留言或在电话应答服务上留言,那么你可能是下一个。或者,如果有人录下了你说的尴尬的话,你可以直接说这是人工智能的假的。似乎没有人能够证明这一点。

© 版权声明

相关文章

暂无评论

暂无评论...