在一个接受福克斯新闻采访LtageNexis风险解决方案政府部门首席执行官Haywood Talcove表示,与人工智能相关的欺诈可能会在明年花费纳税人数千亿至1万亿美元。
Talcove表示,Ltagnexis风险解决方案遇到了人工智能深度造假被用来欺骗政府和国家机构的情况。例如,欺诈者涉嫌使用深度伪造技术从社会保障、医疗保险和医疗补助用户那里提取资金。
“作为世界上最富有的国家之一,我们成为了一个巨大的目标,”塔尔科夫告诉福克斯新闻。“如果我们什么都不做,未来12个月我们将损失的资金数额将使新冠疫情看起来像是儿戏。”
几乎每个在网上存在的人都容易受到人工智能辅助诈骗的影响。有诈骗者使用虚假的声音、图像,甚至视频冒充他人的案例。分析人士认为,这是这项技术的最直接的风险.
这个联邦调查局最近警告说 关于人工智能sextortion和报复色情,欺诈者生成虚假的露骨图像来勒索人们。
这些欺骗性的技术几乎可以扩展到任何事情,比如将人与极端主义材料或犯罪活动联系起来。
“人工智能技术已经如此先进,如果你的任何信息在网络或社交媒体上可用,它就可以用来创建一个生成性的人工智能模型,并绕过政府大多数过时的身份验证系统,”塔科夫警告说。
塔尔科夫强调了采取行动的必要性,“我怀疑在未来12个月,如果政府不迅速对此作出反应,我们将损失超过1万亿美元的犯罪集团,其中一些犯罪集团位于国外。
针对需要做些什么来防止人工智能欺诈,Talcove不祥地表示,“已经太晚了”,并指出人工智能辅助欺诈已经普遍存在,而且没有被注意到。
Talcove总结道:“这不再是一个问题,而是这些人工智能驱动的威胁是否会影响他们的机构,何时以及有多严重。我们必须承认一个严峻的现实,即人工智能欺诈不是一个遥远的威胁,而是一个正在敲门的威胁。
这些说法是否属实?
人工智能支持的欺诈主要围绕深度造假展开。深度造假的范围从良性的(比如婴儿时期的埃隆·马斯克)到有害的(比如五角大楼爆炸的假照片),这张照片在社交媒体上传播后导致美国市场短暂下跌。
人工智能生成的五角大楼爆炸图像导致市场短暂下跌。
有许多关于欺诈者以脆弱个人为目标的故事,其中包括一系列所谓的”祖父母诈骗“一位美国母亲卷入了一场假绑架阴谋诈骗者索要100万美元赎金。
中国也在遭受, 人工智能支持的诈骗其中包括一个事件,一名男子与他朋友的人工智能生成的视频化身交谈。
人工智能在模仿人类方面变得越来越好–这是这项技术的基本特征之一。这个图灵试验由密码分析师和数学家艾伦·图灵在20世纪50年代开发的,评估了机器模仿人类的能力。现实主义是人工智能技术所追求的。
人工智能在复制、伪造和模仿人类行为方面的惊人能力很容易被欺诈者武器化,并不可避免地导致新的网络犯罪技术。
人工智能还将被用来解决网络罪犯、执法部门和安全公司之间的军备竞赛。