知名的社交媒体平台—Facebook、Instagram和TikTok—都因托管公开将人工智能化身色情化的广告而受到审查。
公司正在通过社交媒体上的色情图片和对话来宣传以成人为重点的应用程序，其中一些涉及儿童形象的性化。
根据 NBC新闻目前，有35个应用程序开发商在社交媒体上投放露骨的色情广告。
这些广告的一个显著特点是他们倾向于滥用儿童角色，如海绵宝宝和饼干怪物，以促进成人内容。
最令人担忧的是，一些广告中加入了人工智能生成的类似未成年人的角色，通常以动漫风格呈现。
这并不是人工智能生成的内容第一次被用来扭曲和操纵社区指南和内容过滤器——一个TikTok账户最近因生成被谋杀儿童的动画并让他们背诵自己的命运而受到抨击。
Meta和TikTok表示，他们正在从平台上清除这些广告，但没有评论这些广告是如何避开他们的内容过滤器的。
内容过滤器很可能是针对非人工智能生成的显性内容进行训练的，因此，人工智能生成的内容很容易在网络中溜走。
然而，Meta表示，他们的政策禁止包含过度暗示或性挑衅的成人内容的广告–无论是不是人工智能生成的。
谁在发布这些应用程序？
数十个未知的应用程序开发商正在利用这个漏洞，运行广告承诺“NSFW图片”，“定制女郎”，“数字女友”和“聊天不受审查”。'”
人工智能为成人应用程序生成的广告示例。
许多公司位于白俄罗斯和中国等国家，应用程序通常可以从谷歌和苹果的应用商店免费下载。
收入主要来自应用内购买及订阅。
令人惊讶的是，这些应用的年龄评级并不一致：一些被限制为老年受众，而另一些则被认为适合青少年。
NBC新闻测试了其中三个聊天机器人。其中一个允许用户创建自己的NSFW图像，另一个完全基于点击，依赖于预先确定的明确故事情节。
其中包括臭名昭著的daka，它最近与 暗杀阴谋 杀死伊丽莎白二世女王
公众对这些聊天机器人在线广告的看法已经两极分化。例如，Instagram上的评论从“非常反乌托邦”到“只是悲伤”不等，一些人指出人工智能生成的角色看起来像孩子一样令人不安。
欧盟和美国即将出台的监管措施将给社交媒体公司施加压力，要求他们打击人工智能生成的内容，但他们的过滤技术是否能带来预期结果则是另一回事。
