英国国家网络安全中心（NCSC）警告人工智能网络威胁

英国国家网络安全中心（NCSC）最近发布了一份关键报告，全面评估了人工智能将如何在未来两年影响网络威胁格局。

本报告遵循了2023年11月Bletchley AI安全峰会上举行的讨论，其中AI的“双重性质”既是好处又是网络安全风险是一个关键焦点。

虽然人工智能的进步为网络防御提供了新的机遇，但它们也为更复杂和更难以检测的网络攻击铺平了道路。

该报告指出，未来网络安全形势将变得越来越复杂，人工智能在防御和促进网络威胁方面发挥着核心作用。

关键 报告中的风险 包括：

• 网络攻击的数量和影响加剧：人工智能将增加网络攻击的频率和严重性。
• 降低入门级网络罪犯的门槛人工智能技术正在使业余和新手网络罪犯更容易执行有效的网络攻击。
• 广泛使用人工智能网络能力：犯罪和商业市场越来越容易获得人工智能工具，这可能会为网络威胁行为者提供新的方法。
• 网络弹性面临的挑战增加人工智能将使合法和恶意通信之间的区别复杂化，扩大网络安全管理的挑战。
• 社会工程人工智能通过生成外观真实的诱饵文件和网络钓鱼诈骗所必需的通信，增强了威胁行为者在社会工程中的能力。
• 恶意软件和漏洞开发人工智能可能会帮助开发恶意软件和漏洞，使现有技术更有效。
• 侦察人工智能将加强侦察活动，帮助威胁行为体更快地识别高价值资产进行检查和撤离（未经授权的数据传输）。

NCSC首席执行官Lindy Cameron解释说：“人工智能在网络攻击中的紧急使用是进化的，而不是革命性的，这意味着它增强了勒索软件等现有威胁，但不会在短期内改变风险格局。

这可能会导致来自经验较少的个人或团体的网络攻击激增，特别是勒索软件。然而，高能力的国家威胁参与者仍然处于最有利的地位，可以利用人工智能来开发高级恶意软件。

我们已经看到了面向欺诈的生成人工智能工具，如FraudGPT和WormGPT的潜力。

与NCSC一样，之前的报告也以类似的方式强调了人工智能的民主化和网络攻击的规模，包括OpenAI，该公司最近宣布了打击选举错误信息和深度造假的计划。

openai是 现在与美国国防部合作 支持和创新网络防御等，并宣布， 100万美元赠款 去年的解决方案。