AI深度造假继续困扰骗子红利的崛起“’”

AI伦理与社会4个月前发布 yundic
226 0 0

当我们冲向今年的关键选举时——更不用说美国大选了——我们目睹了深度虚假错误信息的邪恶孪生兄弟——”骗子红利”。

深度赝品指的是人工智能生成的音频、视频或图像的副本,极其逼真。

从人工智能生成的五角大楼形象中,有许多影响人们和社会的深度造假的例子, 去年影响股市 一个机器呼叫的声音 本周模仿拜登总统.

然而,深度造假不仅有助于歪曲事实,而且还能很好地驳斥事实。这被称为”骗子红利”,本质上是描述某人从炫耀真实内容中获得的好处。

例如,在回应福克斯新闻(Fox News)去年展示他公开失误的广告时,前总统唐纳德·特朗普(Donald Trump)声称, 录像是人工智能创造的.

他在《真相社会》上的一篇文章中谴责了这则广告,他说:“失败的、曾经被解散的林肯计划的变态和失败者,以及其他人,正在他们的假电视广告中使用人工智能,让我看起来像骗子乔·拜登一样糟糕和可悲,这不是一件容易的事情。

林肯计划随后驳斥了特朗普的说法,指出该广告包含了他总统任期内有充分记录的事件。

分析提供商Graphika的分析师Libby Lange呼应了对说谎者分红的担忧,他说:“人工智能破坏了真理概念本身的稳定。如果一切都可能是假的,如果每个人都声称一切都是假的或以某种方式受到操纵,那么就真的没有事实的意义了。

在全球范围内,政客们现在经常将人工智能用作替罪羊。例如,一段有争议的台湾政客暗示婚外情的视频很快被认为可能是人工智能产生的。

同样,在印度泰米尔纳德邦,一名政治家驳斥了一段泄露的录音是“机器生成的”,尽管其真实性仍不确定。

我们还看到了以色列、巴勒斯坦和乌克兰的战争罪行的人工智能图像,比如一个烧焦的婴儿,本·夏皮罗在它出现之前与数百万追随者分享了这一图像被认为是假的.

也有一些非政治性的例子,比如巴尔的摩县一所学校校长发表种族主义言论的语音剪辑。这些被声称是人工智能生成的,但确认没有进一步的背景是具有挑战性的。

在最近的达沃斯世界经济论坛上,深度造假是一个热门话题,但到目前为止,遏制它们的努力是肤浅和无效的。科技公司正在探索自动验证人工智能生成的内容的方法,但只有专家才能可靠地区分真实和虚假的媒体。

即使是专家也会犯错,因为有些情况下,专业的人工智能检测器对图像的真实性得出了有争议的结论。

然后,假设图像被“官方”分类为真实或虚假,但判决是错误的—你只能想象可能爆发的地狱。

© 版权声明

相关文章

暂无评论

暂无评论...