因泄露国家机密而入狱的巴基斯坦前总理伊姆兰·汗使用人工智能在一场虚拟集会上发表了演讲。
Khan的演讲持续了四分钟,是使用人工智能生成的声音构建的,紧密模仿了他自己的声音。
这段音频被整合到一段视频中,展示了他由人工智能创建的化身,并穿插着过去巴基斯坦正义运动党(PTI)集会(可汗的政党)和早期演讲的图像。
大赦国际的声音,携带一个免责声明,它是基于汗的监狱笔记,传达了一个弹性和蔑视PTI目前面临的政治限制的信息。
他说:“我们的政党不允许举行公众集会。我们的人民被绑架,他们的家人被骚扰,”并补充说,“历史将记住你们的牺牲。
这指的是对PTI的严厉镇压,许多党的领导人被捕或被迫离开该组织。
汗因涉嫌泄露国家机密而被起诉后仍被监禁,他强烈否认了这些指控。汗声称,这些指控是政府和军方将他和他的政党排除在即将举行的2月选举之外的战略的一部分。
据报道,由PTI组织的虚拟集会在包括YouTube、Facebook和Twitter在内的各种社交媒体平台上获得了超过500万次的浏览量。此前几天,孟加拉国有报道称,人工智能假新闻在今天的选举前在社交媒体上传播。
总体而言,深度造假已成为今年人工智能的一个关键威胁,大量人工智能生成的假媒体传播欺诈内容或争议性图像、政治诽谤和关于以巴战争的错误信息。
在另一起案件中,前苏丹总统奥马尔·巴什在TikTok上分享了出于政治动机的人工智能生成的假视频。
互联网中断限制了集会
尽管有报道称,全国不同地区的互联网中断,许多人认为这是精心策划的,以阻碍在线活动,但集会的高度参与度还是发生了。
网络跟踪公司NetBlocks证实了这些中断。他们在声明中写道:“周日晚上,在巴基斯坦举行的一次网络政治集会期间,ESTA主要社交媒体平台被限制了[近] 7小时;这一事件与之前针对反对派领袖伊姆兰汗及其政党PTI的互联网审查一致。
我是说,️周日晚上,在一次在线政治集会期间,主要的社交媒体平台在#巴基斯坦被限制了约7个小时;这一事件与之前针对反对派领导人伊姆兰汗及其政党PTI的互联网审查一致。
– NetBlocks(@ netblocks)2023年12月18日
巴基斯坦电信管理局(Pakistan Telecommunication Authority)对此表示否认,并呼吁媒体在传播未经证实的新闻时谨慎行事。
人工智能在这种情况下的使用既获得了赞扬,也获得了警告。
巴基斯坦言论自由的倡导者乌萨马·希尔吉(Usama Khilji)赞扬了PTI规避公众集会禁令的创造性方法,他告诉半岛电视台:”随着PTI通过逮捕领导人来全面打击结社和言论自由的权利,党使用人工智能播放被监禁的董事长、前总理伊姆兰·汗(Imran Khan)的虚拟演讲,这标志着使用人工智能的一个新点,巴基斯坦政治的技术”。
然而,他表达了对人工智能在政治舞台上潜在负面影响的担忧,并警告称,使用人工智能传播虚假信息和操纵选举结果存在风险。
基尔吉的声明强调了这种政治沟通形式的双刃性,这是世界上第一次,突显了它对维护言论自由的危险和潜力。