新报告揭示了生成人工智能如何被恐怖分子利用

根据一份新的报告，暴力极端分子正在利用生成人工智能工具大规模创建内容，在此过程中绕过护栏和过滤器。

智能企业 科技反恐识别了大约5000个人工智能生成的内容示例，包括与真主党和哈马斯等组织有关的图像。

这些图像通常与以色列—哈马斯战争等敏感话题有关，表明人工智能在战略上影响叙事。

人工智能生成的图像表明以色列和巴勒斯坦都卷入了他们没有参与的暴行和事件，这样的例子不胜枚举。深度假货构成了双重威胁：假图像可以被解读为真的，而真实的图像可以被解读为假的。

科技反恐怖主义执行董事亚当·哈德利（Adam Hadley）表示：“我们最担心的是，如果恐怖分子开始使用人工智能大规模操纵图像，这很可能会破坏作为解决方案的哈希共享。这是一个巨大的风险”。