纽约市长使用他的声音深度伪造机器人呼叫居民

AI伦理与社会1年前 (2023)发布 yundic
290 0 0

政治家通常是未经授权的deepfake的主题,但纽约市长埃里克亚当斯正在使用这种人工智能技术来接触他的城市居民。

为了接触更广泛的受众,亚当斯使用人工智能创建了他用意第绪语到普通话等语言说话的音频。然后,音频被用于向城市居民进行自动机器人呼叫,通知他们招聘会和音乐会等活动。

此举的实用性是显而易见的,但它也引发了一些伦理问题。

“人们总是在街上拦住我说,‘我不知道你会说普通话,你知道吗?’我们正在使用的机器人通话,我们使用不同的语言直接与纽约人的多样性交谈。亚当斯说。

问题是亚当斯不会说这些语言,机器人呼叫也不会通知接收者他们听到的声音是人工智能生成的。亚当斯是误导了他的选民还是足智多谋和高效?

监控技术监督项目执行主任阿尔伯特·福克斯·卡恩(Albert Fox Cahn)并不喜欢市长使用人工智能。

“这是非常不道德的,尤其是用纳税人的钱。用人工智能让纽约人相信他会说他不会说的语言,这很像奥威尔式的语言。是的,我们需要用所有纽约人的母语发布公告,但深度造假只是一个令人毛骨悚然的虚荣心项目。

是不是有点毛骨悚然?市政府将其中一个西班牙机器人通话上传到了YouTube上,所以你来评判吧。

亚当斯认为目的是合理的手段,但承认“我们必须担心滥用它,但我们希望适当使用。”

此举还引发了一些政治伦理问题。亚当斯的机器人通话会让说西班牙语的人更有可能投票给他吗?如果他相信市长会说他们的语言的话?

亚当斯在一次关于该市新的人工智能行动计划的新闻发布会上提到了深度的假机器人呼叫。

行动计划概述了项目时间表和安全使用人工智能的愿望,以更有效地为该市800万居民服务。

亚当斯说:“我很自豪地介绍了一项计划,该计划将在全球人工智能对话中取得关键平衡,这将使城市机构能够部署可以改善生活的技术,同时保护那些可能造成伤害的技术。

城市使用人工智能的最新例子之一是MyCity Chatbot,它回答与企业注册和法规相关的查询。

亚当斯采取的前瞻性人工智能方法可能值得称赞,尽管有一些值得怀疑的举措,如假机器人通话。

亚当斯说:”这在道德上是对还是错?我有一件事,我必须管理一个城市,我必须能够用他们懂的语言与人们交谈……对所有人,我只能说你好。

© 版权声明

相关文章

暂无评论

暂无评论...