英国安全互联网中心（UKSIC）报告称，儿童正在使用人工智能图像生成器创建其他儿童的不雅图像。
该慈善机构表示，它已经审查了“少量报告”，但强调在问题蔓延之前，现在需要采取行动。
UKSIC主任大卫·赖特强调了立即采取行动的必要性：“[我们]需要看到现在就采取措施，以免学校不堪重负，问题加剧。”
特别是儿童，可能没有意识到以这种方式使用人工智能的含义。
在英国，创建、拥有或传播这些图像都是非法的，无论它们是真实的还是人工智能生成的。
该慈善机构警告称，这些图片可能会被滥用或在网上传播，导致包括勒索在内的意想不到的后果。
这不是一个孤立的案例— 西班牙和美国学校 最近，两家公司都经历了自己的人工智能生成图像争议，交换了未成年人的非法图像。
此外，关于谁负责教育儿童了解这些材料的危害，还有相当大的争论。责任是由家长、学校还是政府承担的？
教育技术公司单独研究 RM技术 一项涉及1000名学生的调查显示，近三分之一的学生使用人工智能进行不适当的在线活动。
RM科技公司的在线安全经理塔莎·吉布森说：“学生们经常使用人工智能现在已经很普遍了。”事实上，他们对人工智能的理解比大多数教师都要先进—创造了知识鸿沟。
应用程序可以轻松创建非法图像
这些所谓的“脱衣服”应用程序于2019年首次出现在社交媒体平台上，通常用于Telegram等消息服务，作为具有人工智能功能的自动化软件。
最初，这些应用程序相对简单，但生成人工智能的进步提高了它们创建逼真假图像的能力。
西班牙案件中涉及的模型吸引了近5万名订阅者。通常情况下，用户可以在被要求付费之前免费创建许多图像。
UKSIC说，在许多情况下，使用这些应用程序是出于好奇心，但这肯定不构成法律辩护。
一名北卡罗来纳州的男子最近， 可能是第一个 因与人工智能相关的性犯罪被判刑，被判处40年监禁。他不太可能是最后一个。
深度造假已迅速成为一个严重的社会和政治问题，并可能威胁到选举的完整性。
就在斯洛伐克势均力敌的选举前不久，有争议的音频剪辑社交媒体上出现了一个与斯洛伐克进步党领袖MichalŠimečka惊人相似的声音，他谈到了操纵选举的计划。
由于这篇文章接近投票时间，警告人们它是假的很难。
不久之后，另一场争议酝酿，当英国工党领袖听到在X上发布的音频剪辑中咆哮咒骂时，相关帖子称，“我获得了Keir Starmer在[工党]会议上口头辱骂他的员工的音频，”X帐户发布。“这个恶心的恶霸，就要成为我们的下一任首相了。”
同一时期，TikTok的一个账户被发现后被删除 制作假剪辑 被监禁的前苏丹总统奥马尔·巴希尔（Omar Al—Bashir），为一个已经陷入内战的国家火上浇油。
这三个案例中的片段都有一个共同点：它们都是假的，很可能是由人工智能创建的。
虽然人工智能视频和图像无处不在，并带来了自己的问题，但假音频片段更难被检测到，而且经常会从网络中溜走。这些声音本身往往是高度真实的；正如NewsGuard的杰克·布鲁斯特所强调的，”当糟糕的演员使用他的脸时，奥巴马看起来仍然有点橡皮泥。但他声音的音频相当好—我认为这是这里最大的区别。“
鉴于这些担忧，一群参议员提出了“禁止伪造法案”，该法案旨在惩罚那些未经原创者同意制作或分享人工智能创建的音频或视频的人。
正如加州大学伯克利分校数字取证学教授Hany Farid所说：“这不是假设。你在谈论暴力，你在谈论窃取选举，你在谈论欺诈—[这]对个人，社会和民主国家的现实世界的后果。
语音克隆应用已经发生了巨大的变化，像Eleven Labs这样的平台提供了一些工具，可以以象征性的月费5美元的价格创造出“深度伪造”的声音。
哈尼·法里德强调了社交媒体巨头的责任，他说：“如果他们想的话，现在就可以关掉水龙头。但这对生意不利。
AI深度造假真的能影响选举吗？
深度造假已经证明了其对现实世界的影响，今年早些时候五角大楼爆炸的假图像导致市场暂时下跌，尽管只有几分钟。
这些虚假的剪辑、视频和视频威胁着本已脆弱的信息环境——一个往往是高度怀疑和利润紧张的地方。
虽然评估人工智能深度造假对政治话语和投票行为的真正影响异常困难，但它降低了虚假信息的门槛。
电子隐私信息中心的高级代表本·温特斯表示：“信任度将下降，记者和其他试图传播实际信息的人的工作将变得更加困难。”
此外，虽然在这些竞选活动中错误地将政客牵连到损害其声誉的场景中是最常见的策略之一，但它们也可能导致“骗子红利”，即有可能将真实指控驳斥为虚假。
打击人工智能深度虚假需要社交媒体上更先进的人工智能内容过滤器和公共教育的结合。然而
你在网上商店浏览衣服时看到的模特有可能是人工智能生成的—你甚至会知道吗？可能不会
人工智能图像生成器，如Stable Diffusion，MidJourney和DALL—E，已经擅长于生成逼真的身体形态，面部表情，头发和皮肤纹理的逼真图像。
这对时尚品牌的好处是显而易见的：生成人工智能模型可以降低雇佣和拍摄真实模型的成本。
为时尚活动创建图像通常需要大量投资，涉及模特、摄影师、化妆师和造型师。
可以用不同的肤色、不同类型的头发、不同的体型和体型生成模型…选择是无止境的。
时尚品牌现在可以访问专门为生成模型而构建的人工智能平台，包括荷兰初创公司Laland.ai。
迈克尔·穆桑杜（Michael Musandu）是www.example.com的联合创始人兼首席执行官，他的目标是使主流时尚的代表多样化。在津巴布韦和南非长大的穆桑杜说：”作为一个有色人种，我总觉得我从来没有见过像我自己的模特。”
穆桑杜认为，人工智能模特的产生是朝着时尚民主化和多样化迈出的重要一步。许多人指出，这一点这是以牺牲工作和生计为代价的，而隐藏在人工智能促进多样性能力的伪装之下，在道德上是值得怀疑的。
毕竟，促进多样性不包括支付代表不同肤色、体型、头发和其他特征的模特，而不是把他们踢出工作岗位吗？
什么是www.example.com
www.example.com于2019年在阿姆斯特丹成立，是关于人工智能在时尚中的作用辩论的最前沿。
该公司提供人工智能服务，使用自己的服装生成可定制的、超逼真的时装模特，订阅费用为每月约400美元。
“这些算法不是魔法，”Lalaland.ai的Musandu说。“这只是机器学习。
由www.example.com提供的人工智能生成模型
尽管穆桑杜强调了用来训练他们的模型的数据的精心策划的性质，但批评人士担心，这项技术可能会延续现有的人类偏见，并夺走真实模型的就业机会。
Lalaland.ai
该牛仔品牌旨在使用Lalaland.ai人工智能生成的模型来描绘更广泛的体型和种族背景。
然而，Levi’s澄清说，这项技术将补充人体模型，而不是取代它们。
伦理困境
消费者应该知道公司何时使用人工智能生成的内容来营销产品吗？
Musandu表示，“我们强烈建议品牌使用我们的技术标签和信用生成的图像，即人工智能生成。'”
通过用人工智能生成的模型取代真实模型来促进时尚多样性的想法是可以预见的。
模特联盟（Model Alliance）创始人兼执行董事萨拉·齐夫（Sara Ziff）警告说，人工智能生成的模型可能会使现有的不平等现象永久化。
她在接受《华盛顿邮报》采访时表示：“时尚已经是独一无二的了，有色人种模特进入
人工智能在广告和营销
人工智能正在交织在广告和营销中，包括政治竞选。
一位平面设计师Eric Groza通过使用MidJourney在Jeep和The North Face之间创建了一个虚构的战役来展示人工智能的潜力。
一个虚构的Jeep x North Face营销活动是与MidJourney一起创建的。来源：LinkedIn。
这种情况反映了好莱坞的情况，演员、作家和艺术家目前在一定程度上都在关注人工智能用复制品取代他们工作的潜力。
波士顿有影响力的营销公司Mavrck的联合创始人莱尔·史蒂文斯解释说，创作者和模特都需要适应和学习如何授权他们的肖像，并以新的方式从他们的艺术中谋生。
随着人工智能生成的深度虚假内容的改进，真实和虚假内容之间的界限变得模糊，这引发了关于代表性、伦理和人性本质的问题。
如果你认为人工智能对2023年的奇怪控制不会变得更奇怪，那么看看这个：一首由人工智能生成的说唱歌曲以唐纳德特朗普的声音为特色，现在在iTunes说唱排行榜上排名第二。
这首歌名为“First Day Out”，由艺术家Hi—Rez制作，他采用了别名“Trump the Don”。
这首歌的发行使用了特朗普臭名昭著的照片，他在佐治亚州被预订并被保释，罪名是试图推翻2020年大选。
“绝对的笑话”
在Hi—Rez形容为“一个绝对的笑话”的情况下，这首歌获得了巨大的成功，自上周发行以来，获得了300万次的点击量。
《First Day Out》目前在iTunes嘻哈和说唱排行榜上排名第二，夹在Doja Cat和Tom MacDonald&Adam Calhoun之间。
唐纳德·特朗普发布了一首《First Day Out》说唱歌曲哈哈！Pic.twitter.com/yW6bgwodX6
– Hi—Rez The Rapper（@ HiRezTheRapper）2023年8月25日
Hi—Rez创作或创作了这首歌，以嘲笑这位前总统的法律挑战。
“保释，保释。人工智能生成的声音模仿特朗普的声音风格，准确得出奇地吟唱着。
”“来了深州。我会阻止新世界秩序。但在此之前，我将完成边境的墙，”这首歌说，暗示特朗普在公开演讲中提出的众所周知的谈话要点。
许多人对这首歌做出了回应，包括评论员坎迪斯·欧文斯，她在YouTube上的节目中表达了自己的热情，她说：“这首歌绝对是天才！”
小唐纳德·特朗普也为这首歌背书，称之为”搞笑”。
这当然是一笔意外之财，制片人海瑞兹承认，他花了30分钟才制作这首曲子。
虽然歌词讽刺了这位前总统热衷于阐明的叙事，但它们也是对特朗普的坚定支持者的认可，尽管他面临法律挑战，但他们仍然忠诚。
iTunes上的“First Day Out”的迅速崛起显示了人工智能生成内容在当今数字时代的影响力，并且是在约翰尼·卡什演唱“芭比女孩”的人工智能混搭病毒传播之后。
这引发了关于当艺术家混合不同音乐家的作品，同时利用他们的声音生成新内容时，谁会得到钱的讨论—这是人工智能时代特有的东西。
在Hi-rez上传到YouTube上的《First Day Out》的评论部分，Hi-rez说，“我在这里被淘汰了，请在Spotify/Apple上流媒体，在iTunes上购买，以帮助我继续制作这些东西，因为YouTube不会付钱给我*哈哈。”
通过不真实的作品来筹集资金会使一些艺术家产生错误的情绪。从这样的讽刺作品中收集资料公平吗？这个问题不容易回答。
今天可能是特朗普，但人工智能混搭可能会在未来夺走任何人，正如Salma Hayek的《黑镜》《琼是可怕的》所证明的那样。
各大唱片公司已经 使用流媒体服务 找到一个解决办法来确保他们艺术家的作品获得公平的报酬。
歌词
以下是AI Trump的“First Day Out”的完整歌词。
[介绍]
我想去洛杉矶
以及
大声喊出爱国者J，本尼约翰逊，大邦吉诺，亚历克斯琼斯
把我的狗狗关起来放了
激进的左派已经疯了
[诗]
保释出来了，保释出来了
我不会看到牢房里的东西
呼喊Thugga，释放我的黏液
板条，Y—S—L
他们想把我关起来
但我接入了A-T-L
有兄弟被判终身监禁
他们住在地狱里
这些地方检察官表现得很傻
我的照片值一块钱
卖了一些商品，赚了一大笔钱
在费城喊出米克·米利
大声喊达宝贝，大声喊德索萨
本尼·布彻，他们是我的推销员
叫我种族主义者？
但这些说唱歌手和我一起骑
他们是我的士兵
玛加，玛加，玛加
我不是他们要找的人
我只是挡道了
他们想找到你
但我不会让他们
冷酷的е说，不，我很谦虚
回到我开始的地方
我不需要参加比赛
我会打败他们的
如果我进了监狱
你不能像克林顿夫妇那样对我
我将躺在床上，吃着牛排，和特勤局一起冷静
尖叫着“橙色男人坏了！”
全世界都疯了
暴徒的生活，喊出我所有的玛加基chads
来了深州
我会阻止新世界秩序
但在那之前，我会在边界上修完墙
[outro]
YSL，板条板条，喊出Thugga
Finny没有我们的把柄
一项新的研究发现，即使人们意识到他们可能在听深度假语音，他们仍然难以可靠地识别假语音。
这适用于英语和普通话使用者，强调深度假声音可能在许多语言中有效。
来自伦敦大学学院的研究人员要求500人识别多个音频片段中的深度虚假语音。一些片段包括一个真正的女性声音，用英语或普通话朗读普通句子，而另一些片段则是由受训于女性声音的生成性人工智能制作的深度赝品。
这个研究 参与者被分成两组，每组受试者接受不同形式的实验。
其中一组被呈现出20个用他们的母语制作的声音样本，他们必须辨别这些片段是真是假。参与者正确识别深度假声音和真实声音大约73%的时间为英语和普通话声音样本。
另一组被提供了20对随机选择的音频剪辑。每一对都有一个人和一个深假的相同句子，参与者的任务是识别假的。这将检测准确率提高到85.59%。
在第一个实验中，现实生活中的人类对深度造假的检测可能比结果显示的要差，因为人们不会被警告他们可能听到人工智能生成的语音。
相反，在第二个实验中，听者有一个二元选择，从而使他们获得优势。
有趣的是，英语和普通话的结果差异相对较小。
深度虚假言论诈骗在现实生活中上升
“这种设置并不能完全代表现实生活中的场景，”Mai说。“听众不会事先被告知他们正在听的是不是真的，说话者的性别和年龄等因素可能会影响检测性能。”
然而，也有进一步的局限性，因为这项研究并没有挑战听众来确定设计成听起来像他们认识的人，如儿子，母亲等的深度假如果骗子用深度假瞄准某人，他们几乎肯定会克隆某人的声音。如果有人在网上上传了自己的音频或视频，例如，用于社交媒体视频、播客、广播或电视广播，这相对容易。
这已经发生了，有一个 McAfee调查显示，大约四分之一的成年人意识到发生了严重的虚假语音欺诈。
与人工智能相关的欺诈也在 在中国崛起一位分析师 预测到 人工智能支持的欺诈行为可能会让人们和经济付出巨大代价。有许多可怕的轶事来自那些已经被深度假电话锁定的人，通常是一个恐慌的家庭成员要求钱，以帮助他们摆脱困境的形式。
这项研究发现，假声音正在“穿过诡异的山谷”，模仿人类声音的自然声音，但缺乏引起一些听众怀疑的微妙差别。当然，AI深假声一直都在提升。
总的来说，这项研究证明了目前的技术已经很有能力，并且在这项研究中，试图提高个人检测假声音的能力的尝试基本上是不成功的。
作者强调了开发合格的人工智能语音检测器的必要性，并教育人们了解深度假语音已经有多复杂。
未来对复制研究参与者所知道的人的声音的深度伪装的研究将是有洞察力的。
有一些实用的方法可以识别深度虚假的语音骗局，比如在家庭成员之间建立密码，或者要求呼叫者描述一条双方都知道的个人信息。
最近，TikTok上出现了几个人工智能生成的被谋杀和虐待儿童的深度假视频。
其中一段视频被称为”教育”，描述了一个悲惨的命运， 1993年，詹姆斯·巴尔杰在利物浦默西塞德被当时10岁的乔恩·维纳布尔斯和罗伯特·汤普森绑架。
巴尔杰当时只有2岁，在被发现死在铁路线附近之前，他遭到了可怕的虐待和折磨。维纳布尔斯和汤普森成为英国最年轻的谋杀犯，也是20世纪最年轻的谋杀犯。
被谋杀的儿子詹姆斯·巴尔杰的母亲丹尼斯·费格斯（Denise Fergus）谴责她已故儿子的人工智能视频“超出了疾病范围”。
这些视频构成了一个系列的一部分，该系列使用人工智能技术重现失踪或被谋杀的儿童，包括2007年在家庭度假期间失踪的Madeleine McCann；11岁的Rhys Jones，被利物浦的一名帮派成员错误地枪杀；以及彼得康诺利，也被称为“婴儿P”，死于忽视和虐待。
其中一些视频在被删除之前获得了数万次观看，并且在没有任何内容警告的情况下上传。
正在与您交谈镜子詹姆斯·巴尔杰的母亲丹尼斯·费格斯称这些视频“令人厌恶”。
费格斯指出，虽然她对报道这些案件没有问题，但她发现看到她死去的儿子的脸被这样使用是“绝对令人厌恶的”。
“这是让一个死去的孩子起死回生。这简直是病态。“她宣称。“谁能坐在那里想这样的事呢？”她问道，并补充道：“这对那些失去孩子或失去任何人的人来说是不公平的。”
她的丈夫斯图尔特·费格斯(Stuart Fergus)联系了这个显然设在菲律宾的账号，要求删除攻击性内容。他收到的回复称，他们“无意冒犯任何人”，他们的目标是确保此类事件“永远不会再发生”，并呼吁支持和分享他们的页面。
TikTok回应了争议， 告诉bbc这些令人不快的视频已经被删除，并断言这款应用程序上“没有地方”放置此类内容。
TikTok的一位发言人强调了该公司的社区指导方针，称这些指导方针“不允许包含年轻人肖像的合成媒体”，并承诺将继续删除此类内容。
深度造假转向邪恶
人工智能生成的深度假货已经被使用， sextortion，骗局，以及 产生滥用恋童癖的照片
越来越多的人认为，人工智能的未来主义风险——例如夺取关键基础设施的控制权或以其他方式反对其创造者——分散了对即时影响的注意力，如深度造假、虚假信息和网络犯罪。
随着深度造假变得越来越复杂，将越来越难区分数字和实物。就像人工智能世界中的许多事情一样，这种影响是前所未有的。
