在苏丹努力应对一场激烈的内战之际,一场使用人工智能的人工智能驱动TikTok运动正在用错误信息火上浇油。
使用人工智能模仿前总统奥马尔·巴希尔的声音,这场运动在一个已经陷入动荡的国家中播下了怀疑和困惑的种子。
自8月下旬以来,一位匿名TikTok用户上传了他们所说的巴希尔的“泄露录音”。然而,这些录音中出现的声音很可能是不真实的。
尽管今年早些时候的报道显示,面临严重战争罪指控并于2019年被免职的巴希尔被关押在一家军事医院,但他仍然难以捉摸。
他长期缺席公共事务,加上这些神秘的录音,加深了笼罩苏丹的不确定性。
专家们强调这种欺骗性活动的影响,强调技术在传播错误信息方面的影响力越来越大。
深度假录音也干扰了最近的印度大选,许多人担心该技术对明年即将举行的美国和印度选举的影响。
加州大学伯克利分校的哈尼·法里德表达了他的担忧:“几十年来,老练的演员一直能够歪曲现实,但现在,几乎没有技术专长的普通人可以迅速、轻松地制作虚假内容。”
苏丹之声可能是人工智能深度造假
深入到TikTok频道,“苏丹之声”似乎是各种内容来源的混合体——旧的新闻发布会,新闻片段,以及归因于巴希尔的辩论“泄露录音”。
许多这样的片段带有人们期望从秘密录制的对话中得到的标志性颗粒感,进一步混淆了真相。
英国广播公司的调查小组与苏丹专家合作, 深入研究了真实性 这些录音。初步发现表明,虽然声音与巴希尔惊人的相似,但真正是他的可能性很小。
证据更倾向于使用人工智能语音转换软件,该软件能够将任何声音变形为另一个声音。
随后的调查还将其中一些录音与一名驻美国知名苏丹政治评论员先前的广播联系起来。
“苏丹之声”的作用和意图仍然模糊不清。虽然该渠道可能试图影射巴希尔参与正在进行的事务,但它也可能通过冒充巴希尔的声音来推动一个特定的政治议程。然而,该频道的真正动机仍然笼罩在神秘之中。
在经过彻底检查并认识到此类内容的潜在危害后,TikTok采取了果断行动。
该平台删除了违反社区准则的“苏丹之声”,表明了积极主动的立场,以解决社交媒体平台上越来越难以避免的深层假货。