美国国家安全局和美国网络司令部主任保罗·中曾根将军在向国家新闻俱乐部发表讲话时宣布了一个新的人工智能安全中心。
随着人工智能越来越多地融入国防、国家安全和民用基础设施，美国国家安全局越来越意识到需要解决相关风险。
美国国家安全局最近进行的一项研究发现，保护人工智能模型免受盗窃和破坏是对国家安全的重大挑战。
中曾根说：“人工智能将在外交、技术和经济问题上对我们的国家以及我们的盟友和伙伴的国家安全产生越来越大的影响。随着世界大国在人工智能舞台上的竞争，国家安全的“外交”和“技术”方面正受到更大的关注。
“几十年来，我们的对手一直利用盗窃和利用我们的知识产权来促进他们的利益，他们将寻求利用我们在人工智能方面的进步，并破坏我们对人工智能的应用，”中曾根说，但没有明确提及中国。
新的人工智能安全中心将受NSA网络安全协作中心的运营监督。中曾根解释说，新中心将专注于“促进在国家安全企业和国防工业基地安全采用新人工智能能力”。
AI：问题的原因和解决方案
人工智能作为武器的公开风险是美国国家安全局关注的一些明显和明显的领域。
这位美国国家安全局局长说，他的部门还没有发现中国或俄罗斯试图影响即将到来的美国大选，但根据过去的经验，风险仍然存在。
最近的一份报告强调了来自中国网络参与者BlackTech的网络安全攻击的上升。随着人工智能的改进，这些攻击的复杂性和规模也会随之增加。
使用人工智能来处理大量数据并为决策提供信息，以识别和缓解这些风险是一个有吸引力的前景。但是，随着人工智能被纳入美国国家安全局等国家安全组织的运作中，它也给它们带来了新的风险。
如果我们不确切地理解人工智能模型是如何得出推荐的，我们能信任它吗？如果模型容易出现偏差或幻觉，潜在的数据集会不会被坏的参与者破坏？
中情局宣布正在开发自己的人工智能版本ChatGPT，DARPA正在研究如何使用人工智能来做出战场决策。想象一下，如果这些人工智能工具受到影响而给出糟糕的建议，会发生什么。
美国国家安全局的安全中心旨在保护这些机构的技术不被美国的对手窃取或破坏。司长还强调，人工智能不会使国家安全决策自动化。
中曾根康弘说：“人工智能帮助了我们，但我们的决定是由人类做出的。”但人工智能越好，这些人类就越依赖它来做出决定。
国家安全越依赖人工智能，社会就越容易受到人工智能故障或破坏的影响。
