微软随后向NBC发表声明称:“我们非常认真地对待这些报道,并致力于为每个人提供安全的体验。我们已经调查了这些报告,并未能复制这些报告中的明确图像。
“我们针对明确内容的内容安全过滤器正在运行,到目前为止,我们没有发现任何证据表明它们被绕过。出于谨慎,我们已采取措施加强文本过滤提示,并解决滥用我们服务的问题。
泰勒·斯威夫特露骨的深伪照片引发了人们对人工智能制造和传播错误信息的潜力的激烈辩论。
在科技行业和公众的一连串反应中,微软首席执行官萨提亚·纳德拉(Satya Nadella)谈到了人工智能生成的假裸体令人不安的趋势。
在接受NBC新闻独家采访时,纳德拉表达了他对这种情况的担忧,称此类内容的扩散是“令人担忧和可怕的”。
他强调迫切需要采取行动,并指出,”我认为我们应该在这方面迅速采取行动。”纳德拉强调了围绕人工智能技术实施更严格的“护栏”的重要性,以确保更安全的在线内容。
问题是护栏根本不能很好地发挥作用。一项又一项研究揭示了大多数复杂的人工智能模型如何容易受到各种形式的操纵。
纳德拉承认了解决深度造假的努力,但强调需要在执法和技术平台何时应该合作治理内容方面达成全球社会共识。
这可能是隐私的滑坡,而将大科技公司产品的责任转嫁给执法部门是一个值得怀疑的角度。
与此同时,在追查泰勒·斯威夫特照片的罪犯方面取得了进展,这可能源于404 Media的一份报告,该报告将这些照片追溯到一个以制作未经同意的色情内容而闻名的Telegram集团。
该组织此前曾建议使用微软的设计者图像生成器来创建此类图像,从而利用人工智能护栏中的漏洞。
虽然还没有明确证明Designer在这种情况下使用,但它突出了当前方法在限制伤害方面的无效性。
微软随后向NBC发表声明称:“我们非常认真地对待这些报道,并致力于为每个人提供安全的体验。我们已经调查了这些报告,并未能复制这些报告中的明确图像。
“我们针对明确内容的内容安全过滤器正在运行,到目前为止,我们没有发现任何证据表明它们被绕过。出于谨慎,我们已采取措施加强文本过滤提示,并解决滥用我们服务的问题。
这种反应并不局限于科技行业。
SAG—AFTRA是代表演员和其他媒体专业人员的工会, 描述了这些图像, 泰勒·斯威夫特被认为是“令人不安、有害、令人深感担忧”,并主张采取法律行动。
该工会去年陷入了创造历史的好莱坞演员罢工,支持全面的人工智能立法,但在涉及深度假货等短期风险时,这一立法仍然严重缺乏。
与此同时,随着人们加入谴责的行列,#ProtectTaylorSwift标签在全球范围内流行起来。
泰勒·斯威夫特得到了数百万“斯威夫特”的支持,他们以直面那些说这位明星坏话的人而臭名昭著。
一个名为Zubera Abdi的X个人资料被确定为可能传播人工智能生成的Swift NSFW图像的加拿大用户,成为了数字搜捕的目标。
Abdi自信地嘲讽道:“我不在乎Swifties有多强大,他们永远找不到我”,低估了Swifties粉丝群的决心。
阿卜迪的反抗是短暂的,因为Swifties动员并找到了他的全名,祖贝尔穆罕默德阿卜迪。
祖熊Abdi又名@zvear
加拿大安大略省多伦多
多伦多大学Scarborough
索马里人,但居住在加拿大但还需要一个准确的addy。pic.twitter.com/N8L7yZsaso
—