我们已经进入了一个你不能相信你在网上看到的东西的时代。
虽然几十年来，这一说法部分是正确的，但人工智能已经将内容操纵提升到了新的水平，大大超过了公众的意识。
人工智能深度造假技术可以创建和修改图像、视频和音频记录，将文字放进公众人物的嘴里，或者让他们出现在从未发生过的情况下。
在许多情况下，确定内容的真实性需要的不仅仅是第二眼，假媒体在被识别之前可能会累积数百万次的印象。
我们现在目睹了可能会中断民主进程的深层造假，尽管现在衡量对投票行为的实际影响还为时过早。
让我们来看看迄今为止我们目睹的一些最著名的政治AI深度造假事件。
乔·拜登新罕布夏州事件
2024年1月，美国新罕布什尔州，a 模仿拜登声音的机器人呼叫鼓励选民“把你的选票留到11月的选举中去”，错误地暗示参加初选会在不经意间让唐纳德·特朗普受益。
这是由于凯西沙利文，前州民主党主席的个人手机号码。沙利文谴责这一行为是公然的选举干预和人身骚扰。
新罕布什尔州总检察长办公室说，这是非法的破坏总统初选和压制选民投票率的行为。
制作的音频被确定是使用语音合成行业领导者ElevenLabs生成的。
ElevenLabs后来将假拜登声音背后的元凶停职，并 他说：“我们致力于防止音频AI工具的滥用，并非常严肃地对待任何滥用事件。
德国总理奥拉夫·朔尔茨深度造假事件
2023年11月，德国目睹了一场人工智能深度造假，虚假地描绘了总理奥拉夫·舒尔茨赞同对极右翼德国替代党（AfD）的禁令。
这段很深的假视频是艺术活动组织The政治美中心（CPB），旨在引起人们对德国新选择党日益上升的影响力的关注。对德国新选择党的批评是对德国20世纪30年代历史的铺垫。
由哲学家兼艺术家菲利普·鲁赫领导的CPB组织旨在创造“政治诗歌”和“道德美”，解决侵犯人权、独裁和种族灭绝等关键当代问题。
CPB参与了许多有争议的项目，如 德国联邦议院附近的“搜索我们”装置他们声称那里有来自前死亡集中营的土壤和大屠杀受害者的遗骸。
虽然对德国新选择党的支持率有所上升，但德国各地的许多抗议活动表明了对德国新选择党意识形态的强烈反对。
深伪背后组织的一名发言人表示，在我们看来，坐在议会中的德国右翼极端主义更危险。
德国新选择党官员称这场深度虚假运动是一种欺骗性策略，旨在诋毁该党和影响公众舆论。
英国首相Rishi Sunak涉嫌诈骗
2024年1月，英国一家研究公司发现，总理Rishi Sunak参与了100多个主要在Facebook上传播的欺骗性视频广告，估计涉及40万人。
这些来自美国、土耳其、马来西亚和菲律宾等多个国家的广告宣传了与埃隆·马斯克等知名人士虚假关联的欺诈性投资计划。
这项由在线通讯公司进行的研究 Fenimore Harper”，强调了社交媒体公司根本没有在合理的时间内对这种形式的内容作出回应。
一则深度虚假广告将用户吸引到这个虚假的BBC新闻页面，宣传一项骗局投资。资料来源：Fenimore Harper。
Fenimore Harper的创始人马库斯·比尔德(Marcus Beard)解释了人工智能是如何普及错误信息的：“随着廉价、易于使用的语音和面部克隆的出现，只需要很少的知识和专业知识就可以将一个人的肖像用于恶意目的。”
比尔德还批评社交媒体内容审核不足，并指出：“这些广告违反了Facebook的几项广告政策。然而，我们遇到的广告似乎很少被删除。
英国政府回应了欺诈深度造假的风险：“我们正在整个政府广泛合作，以确保我们准备好通过我们的捍卫民主工作组和专门的政府团队快速应对任何对我们民主进程的威胁。
巴基斯坦总理伊姆兰·汗出现在虚拟集会上
2023年12月，巴基斯坦前总理伊姆兰·汗因涉嫌泄露国家机密而入狱， 使用人工智能出现在虚拟集会上。
尽管被关在监狱里，汗的数字化身还是受到了数百万人的关注。这次集会包含了他的政党巴基斯坦Tehreek—e—Insaaf（PTI）过去的演讲片段。
汗四分钟的演讲谈到了对PTI成员面临的政治压迫的韧性和蔑视。
AI的声音明确表示：“我们的党不允许举行公众集会。我们的人民正在被绑架，他们的家人正在被骚扰，”继续说，“历史将记住你们的牺牲。
令局势混乱的是，巴基斯坦政府据称试图阻止人们进入集会。
互联网监测组织NetBlock表示：“Metrics显示，在周日晚上的一次在线政治集会期间，主要社交媒体平台在巴基斯坦被限制了[近]7个小时；这一事件与之前针对反对派领导人伊姆兰·汗及其政党PTI的互联网审查事件是一致的。”
我是说，️周日晚上，在一次在线政治集会期间，主要的社交媒体平台在#巴基斯坦被限制了约7个小时；这一事件与之前针对反对派领导人伊姆兰汗及其政党PTI的互联网审查一致。
– NetBlocks（@ netblocks）2023年12月18日
巴基斯坦言论自由的支持者乌萨马·希尔吉（Usama Khilji）评论说：“随着PTI通过逮捕领导层来全面打击结社和言论自由的权利，该党使用人工智能播放被监禁的主席和前总理伊姆兰·汗（Imran Khan）的虚拟演讲，标志着巴基斯坦政治中使用技术的一个新点。
前苏丹总统奥马尔·巴希尔在TikTok上的假音频
TikTok上的一场人工智能支持的活动利用了苏丹前总统巴希尔在该国持续的内乱中。
自2023年8月下旬以来，一个匿名账号发布了据称是巴希尔的“泄露录音”。然而，
自2019年因严重的战争罪指控被驱逐出境以来，巴希尔一直从公众视野中消失。
斯洛伐克选举日音频骗局
在斯洛伐克大选当天，一段有争议的音频精选了进步斯洛伐克党领导人米哈尔·希梅奇卡（Michal Šimečka）和记者莫妮卡·托多娃（Monika Tódová）的深度造假，讨论了诸如收买选票等腐败行为。
这是斯洛伐克选举前的媒体封锁中出现的，所以涉案的个人无法在赛后公开反驳他们的参与。
涉案双方后来都谴责了录音是一个深度伪造的事实核查机构证实了这一点。
Volodymyr Zelenskiy的深假
2023年，乌克兰总统沃洛季米尔·泽连斯基（Volodymyr Zelenskiy）的一段深度假视频，业余地暗示他正在呼吁士兵放弃岗位，很快被主要社交媒体平台认定为假视频，并删除。
土耳其大选深假剧
在土耳其议会和总统选举之前，一段视频虚假显示总统雷杰普·塔伊普·埃尔多安的主要挑战者凯末尔·克里奇达罗奇卢得到库尔德工人党支持。
唐纳德特朗普深假
2023年初，我们目睹了唐纳德·特朗普被捕的逼真深度假照片，以及罗恩·德桑蒂斯（Ron DeSantis）的竞选视频，其中包括特朗普拥抱安东尼·福奇（Anthony Fauci）的人工智能生成的图像。
特朗普被捕的AI图像在2023年3月引起了一阵喧嚣。
比利时政党的特朗普深度造假
比利时2018年早些时候发生的一起事件引发了政治骚动，当时一个政党制作的深度假视频引发了公众的强烈抗议。
该视频错误地描绘了唐纳德·特朗普总统建议比利时退出巴黎气候协议。
这段视频是高科技伪造的一部分，后来党的媒体团队承认了这一点。它表明，世界各国领导人可以利用伪造声明来影响公众舆论和政策。
饰Nancy Pelosi
南希·佩洛西2020年的一段视频被篡改，看起来像是含糊其辞，喝醉了，在社交媒体上迅速传播开来。
这表明了深度造假的潜力，使公众人物名誉扫地和难堪，这种情况往往在内容被认为是假的之后继续存在。
Keir Starmer的音频deepfake
英国政坛的另一起事件涉及一段音频剪辑，据称拍摄到反对派领袖基尔·斯塔默爵士对他的工作人员咒骂。
这段视频在社交媒体上广为流传，后来被发现是人工智能生成的深度假冒。
随着科技公司探索大规模解决深度虚假的方法，用于创建虚假媒体的人工智能模型只会变得更加复杂和更容易使用。
未来的征程需要技术专家、政策制定者和公众之间的合作努力，以利用人工智能的好处，同时维护我们社会的信任和诚信支柱。
至少可以说，对政治和公共机构的信任已经很脆弱了。深度造假将进一步破坏它。
