在斯洛伐克选举日的几个小时后，Facebook上出现了一段有争议的录音。
它的声音据称属于进步斯洛伐克党领导人米哈尔·希梅奇卡和丹尼尼克·N报的莫妮卡·托多瓦。
对话围绕选举舞弊和从罗姆少数民族手中购买选票，引发了腐败担忧和社交媒体混乱。
这段录音很快被希米奇卡和丹尼斯·N否认为假。法新社（AFP）的事实核查网站在音频中显示了人工智能操纵的迹象，随后国际新闻媒体报道了这一点。
考虑到时机——在选举前48小时的媒体沉默——及时反驳这一职位是一项挑战。
由前斯洛伐克总理罗伯特·菲科领导的斯洛伐克民主党在周六的投票中获得了23%的支持，击败了中间派的进步斯洛伐克，获得了18%的支持。
此外，由于它是音频内容，它滑过了Meta的政策，该政策主要针对操纵视频。
在投票之前，欧盟数字负责人Vgirra Jourová强调了欧洲选举容易受到大规模操纵策略的影响，暗示莫斯科等外部影响。
现在，各国对人工智能造成的选举干扰保持高度警惕，这似乎是不可避免的—这更多的是我们是否能阻止它，以及它能造成多大的破坏。即将举行大选的波兰将是下一个考验。
2024年和2025年也将举行重大选举，包括明年的美国和印度。
像法新社这样的事实核查人员强调，人工智能正在迅速演变为破坏选举稳定的有力工具，而我们没有足够的装备来对抗它。事实核查组织Demagog的Veronika HincováFrankovská评论说：“我们还没有做好应有的准备。”
Frankovská的团队验证了伪造的日本语音频的来源，并咨询了专家，然后使用Eleven Labs的人工智能语音分类器来确定其真实性。
尽管人工智能不断发展，但我们在很大程度上还是依赖人类来识别深度造假。
AI深度造假正成为关键问题
人工智能在传播虚假信息方面的作用越来越大，证明人工智能图像、视频和录音是一项艰巨的任务。
大多数虚假内容在社交媒体上被禁止。代表Meta的Ben Walter表示：”我们的社区标准适用于所有内容.我们将对违反这些政策的内容采取行动。”
然而，在所有的实践中，阻止深度虚假内容的传播被证明是棘手的，人工智能等措施， 水印的效果很差.
随着波兰为选举做准备，人们担心人工智能生成的内容可能会涌入，虚假信息已经引发了动乱。
来自波兰事实核查组织真理协会的jakubŚliż说，作为一个事实核查组织，我们没有一个具体的计划来处理它。
在选举结果的差距很小，政策对话也很激烈，比如斯洛伐克，人工智能制造的虚假信息可能会造成严重的影响。更重要的是，过去的算法放大的否认事件，如剑桥分析丑闻，告诉我们，一些利益相关者可能是这些策略的同谋。
2016年美国总统大选已经充斥着极端主义活动人士、外国干涉和欺骗性新闻媒体推动的错误信息。
到2020年，对选举舞弊的毫无根据的指控占据了主导地位，助长了一场试图推翻选举结果的反民主运动。
人工智能驱动的虚假信息不仅有欺骗公众的风险；它还可能压倒已经脆弱的信息环境，制造虚假、不信任和欺骗的空气。
电子隐私信息中心的高级代表本·温特斯说：”信任度将下降，记者和其他试图传播实际信息的人的工作将变得更加困难。”
旧战术的新工具
想象一个世界，操纵性内容以如此微不足道的成本生产，如此容易，以至于它变得司空见惯。
技术支持的错误信息并不是什么新现象，但人工智能工具完全可以加速这种策略。
早期的小规模冲突预示着即将到来的事情。今年早些时候，人工智能生成的五角大楼爆炸图像对股市产生了切实的影响，即使就在社交媒体用户谴责这些病毒图像是假的几分钟前。
人工智能生成的五角大楼爆炸图像导致市场短暂下跌。
人工智能渲染的视频似乎显示了唐纳德·特朗普与警察的对抗，在网上获得了关注，共和党全国委员会播放了一则完全由人工智能生成的广告，设想了如果拜登再次当选将会发生的灾难。
3月份，特朗普被逮捕的人工智能画面引发了轩然大波。资料来源：FirstPost。
另一个病毒式的深度造假涉及佛罗里达州州长和共和党提名人罗恩·德桑蒂斯，他发布了展示前总统唐纳德·特朗普的修改图片， 安东尼·福奇博士.
X（然后是Twitter）在原始的推文中添加了一个标签，将其标记为人工智能操作。
唐纳德·特朗普因在电视上解雇了无数人而家喻户晓
但当谈到Fuci…时Pic.twitter.com/7Lxwf75NQm
– DeSantis War Room（@ DeSantisWarRoom）2023年6月5日
