超过100个由英国首相Rishi Sunak主演的深度假视频广告在Facebook上推广。
在线交流公司Fenimore Harper进行了这项研究,并将他们的发现发表在了这份报告中。
这些深度虚假广告在143个广告中可能达到了40万人, 来自美国、土耳其、马来西亚和菲律宾等国家。广告支出可能超过12,929英镑。
一个特别引人注目的例子包括一段捏造的BBC新闻播音员萨拉·坎贝尔虚假报道涉及Sunak的丑闻的片段,以及据称由埃隆·马斯克发布的一款应用程序。
广告声称埃隆·马斯克“推出了一款能够自主进行股票和市场交易的应用程序”,并接着说,“我个人可以保证这个投资平台的可靠性。”
它导致了一个欺骗性的BBC新闻页面,促进了一个骗局投资。
一个深度虚假广告把用户拉到这个虚假的BBC新闻页面上,宣传一个骗局投资。资料来源:Fenimore Harper。
Fenimore Harper的创始人马库斯·比尔德解释说, “随着廉价、易于使用的语音和面部克隆技术的出现,为了恶意目的使用一个人的肖像只需要很少的知识和专业知识。
他进一步强调了Facebook等平台上付费广告监管不足的问题,指出“这些广告违反了Facebook的几项广告政策。然而,我们遇到的广告中似乎很少有被删除的。
英国政府发言人表示:“我们正在整个政府进行广泛的工作,以确保我们准备好通过我们的捍卫民主工作组和专门的政府团队迅速应对任何对我们民主进程的威胁。
“我们的在线安全法案进一步加强,对社交平台提出了新的要求,以便在他们意识到这一点时迅速删除非法的错误信息和虚假信息—包括它是由人工智能生成的。
英国广播公司承认虚假信息日益普遍,敦促人们保持警惕。新闻发言人 表示“我们在2023年推出了BBC Verify,以应对虚假信息日益增长的威胁–投资组建了一个高度专业化的团队,拥有一系列法医和开源情报(OSINT),以调查、事实核查、核实视频、反虚假信息、分析数据和解释复杂的故事。”
我们通过向观众展示BBC记者如何知道他们正在报道的信息来与观众建立信任,并提供如何识别虚假和深度虚假内容的解说员。当我们意识到BBC的虚假内容时,我们会迅速采取行动。
Facebook的母公司Meta也解决了这些担忧。Meta的一位发言人评论说:“我们删除违反我们政策的内容,无论它是由人工智能还是人工智能创建的。”
人工智能生成的深度造假越来越复杂和流行,特别是在政治竞选的背景下,引发了关于人工智能时代信息完整性的巨大问题。
人工智能操纵的内容压力选举
随着世界准备在2024年和2025年举行一系列备受瞩目的选举,政治竞选中的深度虚假信息正在成为一个普遍的全球问题。
在斯洛伐克,人工智能被操纵音频虚假描绘 政治人物在大选前浮出水面,引发了人们对人工智能扭曲政治叙事能力的警告。
孟加拉国全国大选 经历了类似的挑战报道强调了亲政府团体利用人工智能生成的新闻片段来影响公众舆论。
谷歌和Meta等主要科技公司已经开始实施政治广告政策,要求披露任何形式的人工智能或数字修改。然而,这些措施往往不够。