剖析具有里程碑意义的白宫人工智能行政命令

在活动中，拜登还谈到了人工智能深度造假，在观众中幽默地宣布，”我看了一个我……我说， 我到底说了什么？”

该命令的重点是提高人工智能开发人员的透明度，并建立了一系列新的标准，特别是对人工智能生成的内容进行标签。

白宫的目标是通过这一命令来加强“人工智能的安全和保障”。它包括一项令人惊讶的要求，即如果新的人工智能模型的技术可能威胁到国家安全，开发人员必须与美国政府共享安全测试结果。

这涉及国防生产法，通常为国家紧急情况保留。

对于那些不熟悉美国立法的人来说，行政命令不是立法–它们不会制定新的法律或改变现有法律。取而代之的是，他们就政策优先事项指示国会。

在这里发布的这项命令确实包含了无数的最后期限，规定了推进人工智能立法需要采取的各种行动。

行政命令必须基于宪法或法定权力，不得用来绕过国会或单方面制定法律。

因此，许多人强调，这项行政命令缺乏执行机制。它没有国会关于人工智能的立法那么有份量。

哥伦比亚大学法学教授阿努·布拉德福德观察到：“国会两极分化严重，甚至功能失调，以至于在不久的将来不太可能出台任何有意义的人工智能立法。”

这一命令是在英国即将召开具有里程碑意义的人工智能安全峰会的前几天发布的，届时政界人士、研究人员、科技高管和公民社会成员将齐聚布莱奇利公园。副总统卡玛拉·哈里斯出席了会议。值得注意的是，中国也将出席峰会。

哈里斯在白宫的活动上说：“我们打算将国内正在采取的行动作为国际行动的典范。”

该声明提请注意批评，该命令可能会破坏AI安全峰会之前的开放国际合作。

美国在人工智能监管方面起步较慢，行政命令的性质意味着它仍然是一项监管。建议其他国家效仿中国的做法或许有些厚颜无耻。

哈里斯继续说，美国将“应用现有的国际规则和规范，以促进全球秩序和稳定，并在必要时为符合这一时刻的其他规则和规范建立支持。

白宫要说的是

该命令引入了严格的人工智能标准，保护美国人的隐私，促进公平和公民权利，保护消费者和工人，推动创新和竞争，并加强美国在人工智能领域的领导地位。

它补充了自愿承诺 来自15家领先企业的合作，以促进人工智能的安全和可信赖发展。

该命令中最值得注意的内容之一是，总统表示，“强大的”人工智能系统的开发商将需要与美国政府分享安全测试结果和关键信息，旨在确保这些系统在公开发布之前是安全和值得信赖的。

美国国家标准与技术研究院（NIST）将领导“红色团队”工作，测试和分析人工智能模型的安全性。

Red Team是对AI模型功能和安全性进行探测和压力测试的过程。

关于隐私，总统呼吁两党制定数据隐私立法，反映了对形势紧迫性的理解。

然而，如前所述，这些措施的有效性最终将取决于国会的迅速和果断行动，而国会在技术相关问题上的立法历来缓慢。

此外，该行政命令在推进公平和打击算法歧视方面采取了强硬立场，并指示确保住房、刑事司法和联邦福利计划的公平。

同样，虽然这些都是积极的步骤，但这些举措的成功将取决于严格的执行和持续的监督。

订单 涉及八个关键领域。

以下是拜登总统关于人工智能的里程碑式行政命令将如何确保美国在这个技术变革时期处于领先地位，同时确保美国人的安全。pic.twitter.com/SvBPxiZk3M

-白宫(@White House)2023年10月30日

1. AI安全和安保的新标准

• 强大的人工智能系统的开发者必须与美国政府分享安全测试结果和关键信息。
• 在NIST的领导下，开发标准、工具和测试，以确保人工智能系统的安全和可信度。
• 通过建立健全的生物合成筛选标准，保护人工智能在工程危险生物材料方面的潜力。
• 建立协议，以保护美国人免受人工智能启用的欺诈和欺骗，包括检测人工智能生成的内容和认证官方通信的标准。
• 启动先进的网络安全计划，利用人工智能保护软件和网络。

2.保护美国人的隐私

• 倡导联邦支持人工智能中保护隐私技术的开发和使用。
• 加强隐私保护技术的研究。
• 加强联邦机构的指导方针，以确保收集和使用数据，特别是个人身份信息时的隐私。

3.促进公平和公民权利

• 提供指导，以减轻人工智能加剧住房、司法和就业歧视的可能性。
• 通过开发人工智能应用的最佳实践，促进整个刑事司法系统的公平性。

4.为消费者、患者和学生挺身而出

• 鼓励在医疗保健中负责任地使用人工智能，以开发负担得起的救命药物，并确保人工智能医疗实践的安全。
• 促进人工智能在教育中的变革作用，支持教育工作者部署人工智能增强型学习工具。

5.辅助工作者

• 制定原则和最佳实践，以平衡人工智能在工作场所的好处和危害。
• 对人工智能对劳动力市场的影响进行全面研究，并加强联邦政府对因人工智能而面临劳动力中断的工人的支持。

6.促进创新和竞争

• 促进全国范围内的人工智能研究，确保具有竞争力的人工智能生态系统。
• 简化关键人工智能部门高技能个人的移民程序。

7.提升美国在海外的领导地位

• 加强人工智能领域的国际合作和框架。
• 在全球范围内促进安全和负责任的人工智能开发和部署。

8.确保政府负责任和有效地使用人工智能

• 为联邦机构提供关于人工智能使用、采购和部署的明确指导。
• 在整个政府范围内加强人工智能人才的获取，并为联邦雇员提供人工智能培训。

拜登-哈里斯政府正试图在保留和提升美国世界领先的人工智能行业，同时遏制明显的风险之间取得平衡。

严重的虚假和错误信息是大多数人头脑中的首要问题，因为我们现在有确凿的证据表明它们可能影响选举选票。

随着明年的美国大选，这一命令增加了对人工智能生成的内容进行水印和突出显示的压力，这样用户就可以轻松地判断真假。

然而，从技术上讲， 没有强大的解决方案来实现这一点 在实践中

行业反应

工业界的反应自然是喜忧参半。许多人赞扬签署该命令的迅速进展，而另一些人则强调缺乏有关执法行动的立法和信息。

该命令再次表明，白宫寻求国会就人工智能政策采取行动。

唯一的例外是《国防生产法》，该法案被援引来迫使人工智能公司在开发与国家安全互动的模型时通知政府。

官方措辞是一种人工智能模型，它“对国家安全、国家经济安全或国家公共健康和安全构成严重风险”。

人工智能行政命令有点荒谬，很难执行。

以下是问题-

1.任何对国家安全构成严重威胁的基础模式–如何确定某件事是否对国家安全构成严重威胁？

如果这是关于…

– Binu Reddy（@ bindureddy）2023年10月30日

一些人强调，与欧盟人工智能法案相比，没有关于培训数据透明度的指导，多名人工智能开发人员正面临诉讼。

未收到新的执行命令：

人工智能公司必须公开他们的培训集。

要开发安全的人工智能，我们需要知道模型是在什么上训练的。

为什么人工智能安全组织不提倡这一点？https://t.co/yjr21bNIK4

– Damek Davis（@ damekdavis）2023年10月30日

阿德南·马苏德UST首席人工智能架构师对此表示赞赏，并表示：“该命令强调了全球对监管人工智能的关注急需的转变，特别是在我们今年都目睹的生成人工智能热潮之后。

阿维瓦·利坦，Gartner Research副总裁指出，虽然规则一开始很强大，但仍有一些领域的授权不足。她对“最强大”人工智能系统的定义、开源人工智能模型的应用以及在社交媒体平台上执行内容认证标准提出了质疑。

布拉德利·图斯克Tusk Ventures首席执行官表示，人工智能开发人员不太可能与政府共享专有数据，并表示：“如果没有真正的执行机制，行政命令似乎没有，这个概念很好，但遵守可能非常有限。

兰迪·拉里亚Optiv的人工智能安全主管表示：“我担心，许多源自大型基础模型的开源模型，在没有红色团队负担的情况下，可能也会有同样的风险–但这只是一个开始。”

阿什利·伦纳德Syxsense首席执行官，补充说，看看该命令如何执行将是非常有趣的。伦纳德说：”即使是最先进的公司也需要真正的资源——预算、时间和员工——来跟上漏洞和bug修复的步伐。”

马克斯·泰格马克麻省理工学院的一位教授、未来生活研究所所长强调，该命令需要配备一个制定和执行立法的计划，他说，“政策制定者，包括国会的那些人，需要通过制定强有力的法律来应对威胁和保障进步，来照顾他们的公民。”

杰森·吉莱斯皮，RTB House分析和数据科学主管对这项行政命令持积极态度，称人工智能监管是一个两党真正有可能采取方法的话题。

亚历杭德罗·马约尔卡斯 国土安全部的一位发言人说：“人工智能的发展和采用前所未有的速度带来了我们必须迅速缓解的重大风险，以及代表美国人民推进和改进我们工作的机会……它指示国土安全部在关键基础设施和网络空间管理人工智能，促进全球采用人工智能安全标准，降低人工智能用于制造大规模杀伤性武器的风险，打击与人工智能相关的知识产权盗窃，并确保我们的移民系统吸引人才在美国开发负责任的人工智能。

凯西·埃利斯BugCrowd创始人兼首席技术官表示：“该指令要求开发人员与美国政府分享安全测试结果，确保人工智能系统在公开发布之前经过广泛审查。它还强调了人工智能在加强网络安全方面的重要性，特别是在检测人工智能启用的欺诈以及加强软件和网络安全方面。该命令还支持为人工智能的安全和安保开发标准、工具和测试。

这是必要的一步，但前面还有挑战

拜登总统关于人工智能的行政命令试图全面，但国会必须采取立法行动来跟进其紧迫性。这一点远未得到保证。

虽然它确立了严格的标准，强调透明度、问责制和防止歧视性做法，但这一举措的真正有效性将取决于其执行情况以及平衡监管监督与促进创新的能力。

随着人工智能安全峰会的临近，围绕人工智能风险以及如何缓解风险的对话正在升级。

全面控制人工智能仍然取决于立法的速度和效率以及执法的能力。