人工智能制作的美国新泽西州韦斯特菲尔德高中的学生裸照被分发给同龄人，目前还没有明确的法律行动路线来对付肇事者。
校长玛丽·阿斯芬迪斯在给家长的一封电子邮件中将这一情况描述为“非常严重的事件”。
不学校以保密为由，对事件的细节保持沉默，包括受影响的人数或对肇事者采取的纪律措施。
校长发来的电子邮件被泄露给媒体，并说：
“我写这封信是为了让你意识到一种情况，这种情况导致了广泛的错误信息，并导致了韦斯特菲尔德高中学生团体的重大担忧和担忧。今天早些时候，学生们提请我们注意，我们的一些学生使用人工智能从原始照片创建色情图像。人们对谁创造了他们的图像以及这些图像是否被共享存在着极大的担忧。
目前，我们认为任何创建的图片都已被删除，不会在网上传播。这是一起非常严重的事件。我们正在继续调查，并将在调查完成后通知涉案学生的个人和家庭。这将在周末之前发生。我们为所有受影响的学生提供咨询服务，并鼓励他们在觉得有能力的时候重返课堂。此外，我们的学校资源官员和韦斯特菲尔德警察局已经知晓了我们的调查。如果父母/监护人认为他们的孩子是与这起事件有关的犯罪行为的受害者，请向韦斯特菲尔德警方报告此事。
我想让你意识到这种情况，因为除了伤害参与的学生和扰乱学校的一天，与你的孩子谈论他们对技术的使用，以及他们在社交媒体上发布，保存和分享的内容是至关重要的。新技术使伪造图像成为可能，学生需要知道这些行为可能对他人造成的影响和损害。
我们将继续教育您的孩子负责任地使用技术的重要性，并希望您在家里加强这些信息。
这种情况并不局限于韦斯特菲尔德高中。西班牙在9月也经历了类似的事件，公众人物和各种网络影响者也卷入了深度造假色情争议。
在新泽西州，还没有立法惩罚人工智能创建和传播的假裸体。
10月10日，州长菲尔·墨菲（Phil Murphy）宣布成立一个人工智能工作组，以调查该技术的好处、增长和风险，但解决该问题的最终法律仍然不存在。
拜登总统关于人工智能监管的行政命令提出了监管、建立保障措施和技术投资的措施。然而，它并没有制定一项全面的联邦法律来打击深度假裸体，而且这样的立法也没有时间表。
卡多佐法律评论的副主编布拉德利·瓦尔德斯特雷彻在2021年5月强调了联邦深度假货立法的复杂性，他说：“如果通过了专门针对色情深度假货的联邦深度假货立法，那么，为了符合宪法，色情深度假货可能需要符合第一修正案的绝对例外，比如儿童色情…。这里没有明确的解决方案。至少，在实质性的联邦立法通过之前，研究人员需要进行更多的研究，以了解色情深度假货对受害者和互联网用户的影响。
仔细研究人工智能生成的假裸体的兴起会发现惊人的数字。据《华盛顿邮报》援引行业分析师Genevieve Oh的话说，自2018年以来，在托管人工智能生成的色情照片的知名网站上，此类内容增加了290%。
英国广播公司的一项调查显示，Patreon等网站上包括儿童在内的深度虚假色情内容惊人地增加。
仅在2023年，就有14.3万个deepfake色情视频在流行平台上发布，产生了超过42亿次的浏览量，比前几年大幅跃升。Sensity AI报告说，90%至95%的视频都是非自愿的女性图像。
联邦调查局还强调了性勒索案件的激增，截至今年9月，据报道有2.68万名美国受害者，比2019年增长了149%。
深度伪造是人工智能最迫在眉睫、最紧迫的风险之一，而且它们非常难以控制。
在以巴冲突期间出现的假照片也突显了真实图像被错误地贴上人工智能生成的标签的潜在性，这是一个“骗子红利”的例子，真实信息可以被视为假的。
这也延伸到人工智能生成的声音和视频，通常针对政治领导人，人们越来越担心这可能会影响投票行为。
