TikTok上的一段视频似乎显示，YouTube影响者MrBeast以每部2美元的价格向粉丝提供了1万部iPhone 15 Pro手机。
不要麻烦把你的信用卡拿出来，因为视频是人工智能生成的deepfake，以某种方式逃避了TikTok的内容审核。
MrBeast的真名是Jimmy Donaldson，他的频道拥有1.89亿订阅者。他的视频相当离谱，看到他做的事情，比如赠送一个80万美元的岛屿或100万美元，用户需要在一分钟内花费。
所以你可以原谅短暂地相信他会做一些疯狂的事情，比如赠送1万部iPhone。2美元的预付款应该是一个暗示，这是一个骗局。
这段视频有点小问题，但它看起来和听起来都很像野兽先生，所以在TikTok最终将其删除之前，它可能愚弄了很多人。
很多人都收到了我的这个deepfake诈骗广告…社交媒体平台准备好应对人工智能deepfake的崛起了吗？这是个严重的问题www.example.com
– MrBeast（@ MrBeast）2023年10月3日
TikTok为新账户注册和内容审核政策制定了验证流程，但没有一个人发现了这个虚假广告。在MrBeast的推文中，有一条评论说：“在TikTok上获得验证就像打个盹一样容易。”
MrBeast问道：“社交媒体平台准备好应对AI deepfakes的兴起了吗？”很明显的答案是，他们没有。
就在上周，我们在牙科广告中看到了汤姆·汉克斯的人工智能深度造假，盖尔·金似乎代言了一款减肥产品。
在Instagram上查看此帖子
被骗2美元或购买不起作用的减肥产品是人工智能深度假货可能造成的潜在损害的低端。
当与我们交谈的人看起来是我们信任的人时，破坏选举或传播有害虚假信息的可能性就会放大。各家公司正试图开发一种识别人工智能生成内容的数字水印，但似乎还没有一种方法可靠地发挥作用。
即使他们确实开发出了一种标记人工智能内容的方法，他们将如何迫使人们使用它？在我们找到一种方法来立即知道什么是人工智能生成的之前，我们需要对我们的信念格外谨慎。
如果这件事好得令人难以置信，那么它很可能就是真的。
