微软和OpenAI拦截全球AI网络犯罪威胁

AI行业新闻4个月前发布 yundic
36 0 0

微软已经报告了其人工智能技术被来自俄罗斯、中国和伊朗的国家支持的黑客滥用。

微软与OpenAI合作,观察与俄罗斯军事情报、伊朗革命卫队以及中国和朝鲜政府有关的组织的活动,使用先进的人工智能工具来完善他们的黑客策略,并制作令人信服的欺骗性信息。

作为以下内容的一部分微软和OpenAI的研究他们通过终止对OpenAI服务的访问,扰乱了五个国家支持的恶意组织的活动。

其中包括与中国有关联的两位演员,木炭台风和三文鱼台风;伊朗的红色沙尘暴;与朝鲜有关的翡翠雨夹雪;以及与俄罗斯有关的森林暴雪。

这些团队利用OpenAI的服务来完成诸如查询开源信息、翻译、识别编码错误以及执行基本编码任务等任务。具体而言:

  • 木炭台风使用OpenAI的服务来研究公司和网络安全工具,调试代码,生成脚本,并创建网络钓鱼内容。
  • Salmon Typhoon利用OpenAI的服务翻译技术文档,收集各种机构的情报,协助编码和研究隐形技术。
  • Crimson Sandstorm聘请OpenAI的服务,为应用程序和Web开发提供脚本支持,制作鱼叉式网络钓鱼内容,并探索规避方法。
  • Emerald Sleet利用OpenAI的服务来识别防御专家和组织,了解漏洞,协助编写基本脚本,并准备网络钓鱼材料。
  • 森林暴雪主要使用OpenAI的服务对卫星和雷达技术进行开源研究,并提供脚本协助。

国际威胁参与者正在使用OpenAI的技术,这一事实体现了人工智能的双重用途难题。

威胁参与者故意选择OpenAI的模型,而不是开发自己的模型。它更便宜,更快,更有效。不过,主权开源工具可能正在酝酿之中。

微软负责客户安全的副总裁Tom Burt表示:“无论是否存在违反法律或违反服务条款的行为,我们只是不希望那些我们已经确定的参与者—我们跟踪并知道是各种威胁参与者—能够访问这项技术。

微软正在禁止这些国家支持的团体在Azure上托管的任何AI应用程序或工作负载。拜登政府最近要求科技公司, 一些外国云技术用户。

中国通过美国大使馆发言人刘鹏宇做出回应,刘鹏宇谴责这些指控是没有根据的,并主张负责任地部署人工智能技术来造福人类。

中国一直在与美国在人工智能安全方面进行闭门合作,但这可能是出于纯粹的必要性,而不是想要或愿望。

这是微软近几个月来发布的一系列以网络犯罪为主题的报告中的最新一份,其中包括去年的一份报告,该报告讨论了人工智能产生的宣传来自中国和朝鲜。

但必须指出,人工智能的威胁无处不在。在美国、英国和其他西方和欧洲国家,深度虚假欺诈正在急剧上升,与东方一样。

微软目前正在跟踪300多个独特的威胁参与者,包括国家行为者和勒索软件组织,利用人工智能来加强他们的防御和破坏恶意活动。

人工智能网络威胁正在上升,事实是,它们是国际性的,难以遏制。

© 版权声明

相关文章

暂无评论

暂无评论...