OpenAI公布100万美元的网络安全拨款计划

OpenAI宣布启动其100万美元的网络安全赠款计划，该计划旨在为网络安全注入人工智能，并促进关于人工智能在网络安全中作用的讨论。

该倡议旨在实现三个关键目标：

• 赋予捍卫者权力： OpenAI旨在为防御者（专注于保护系统的组织和服务）配备先进的人工智能能力。
• 衡量影响：他们打算衡量人工智能在网络安全方面的有效性。
• 促进话语OpenAI打算利用该计划鼓励围绕人工智能和网络安全之间的互动进行辩论，包括机遇和挑战。

OpenAI提出了几个项目想法，包括收集和标记数据以培训网络安全代理，检测和缓解社会工程策略，自动漏洞修补，识别源代码中的安全问题，以及协助网络或设备取证。

100万美元的拨款将以10，000美元的增量发放，通过API信贷或直接拨款。该公司表示，他们将优先考虑那些获得许可和分发的应用程序，以“最大的公共利益和共享”。

OpenAI拨款和计划：

这并不是OpenAI第一次提供大量资金来换取公众的投入。

5月25日，该公司宣布， 100，000美元赠款 设计民主程序来决定人工智能系统应该如何工作。这样一个系统将使对人工智能的控制民主化，使来自不同背景的人们能够投票决定人工智能应该如何为他们以及整个社会工作。

OpenAI正在寻求答案的一些示例问题包括：

• “你认为像ChatGPT这样的人工智能助理的个性化应该走多远，以符合用户的品味和偏好？
• 在这个过程中，应该存在什么界限(如果有的话)？
• 人工智能助手应该如何回应公众人物观点的问题？他们应该保持中立吗？他们应该拒绝回答吗？他们应该提供某种来源吗？
• 在什么情况下，如果有的话，应该允许人工智能助理提供医疗/金融/法律建议？

OpenAI意识到它在塑造人工智能技术方面的作用，首席执行官萨姆·奥特曼一直在公开警告公众人工智能带来的风险。

该公司邀请公众合作的意愿令人钦佩。然而，就人工智能民主化等问题达成一致，需要OpenAI、Google、Anthropic和其他行业主角之间的密切合作，这是一个完全不同的考验。