在孟加拉国准备明年1月初的全国大选之际，一个越来越熟悉的威胁正在抬头：人工智能产生的深度虚假信息。
孟加拉国大选是现任总理谢赫·哈西娜和反对党孟加拉民族主义党之间的激烈竞争。
许多报道提请注意亲政府团体使用这些工具制作人工智能生成的新闻剪辑，旨在影响公众舆论。
例如，在一个这样的片段中，一名人工智能创建的孟加拉新闻主播批评美国，这呼应了现任政府的立场。
另一个例子是旨在诋毁反对派人物声誉的深度虚假视频，比如显示他们在支持加沙等敏感问题上采取不受欢迎的立场，在这个拥有1.75亿人口的穆斯林占多数的国家，这是一个极其重要的辩论问题。
深度虚假信息和虚假信息可以说已经成为人工智能最直接和紧迫的风险。就在本周，俄罗斯总统弗拉基米尔·普京 面对着一个人工智能复制品在一次新闻发布会上，一名学生在电视直播的问答环节中用它来表达对深度假货的看法。
吉尔吉斯斯坦选举受到影响， 社交媒体虚假信息 在新闻发布时间前的最后四十八小时内，媒体被禁止讨论政治新闻。
谷歌和Meta等大型科技公司开始实施针对政治广告的政策，包括要求披露数字修改。然而，到目前为止，这些措施似乎很弱，特别是在那些不那么吸引这些公司关注的地区。
一般来说，人工智能监管主要是西方的仇恨，发展中国家大多缺乏数字监管和权利，让人及其数据受到剥削。
深度造假技术如何运作？
本质上，“深度造假”是一个非技术术语，描述了任何非常有效的造假，通常是用生成人工智能工具创建的。
一个说明性的例子是HeyGen，一个位于洛杉矶的人工智能视频生成器。只需支付适度的订阅费，这项服务就允许用户使用AI头像创建剪辑。
其中一段声称美国干涉孟加拉国选举的视频在社交媒体平台上流传。
由于这些人工智能化身如此逼真，它们经常会通过社交媒体过滤器，公众可能不会立即做出反应。一些假图像与 以巴冲突例如，在被全面曝光为假货之前，它接触了数百万人。
缺乏针对非英语内容的强大的人工智能检测工具加剧了这一问题。
随着人工智能技术的进步和变得更容易获得，监管机构和数字平台的当务之急是制定和执行有效的措施来对抗虚假信息。
到目前为止，这是一个棘手的任务。
