在人工智能安全峰会上，来自世界各地的国家宣布他们致力于确保安全和负责任地开发、部署和使用人工智能。

的 布莱切利宣言正如它的正式名称，由28个与会国家和欧盟签署。

《宣言》强调人工智能系统必须“以人为本、值得信赖和负责任”，承认人工智能在促进“人类福祉、和平与繁荣”方面的关键作用。

与会国表示，他们希望利用人工智能促进“包容性经济增长、可持续发展、创新、保护人权以及培养公众信任和信心”。

随着人工智能技术渗透到日常生活的各个领域，包括健康、教育、交通和司法，宣言强调了控制人工智能并将其引导为集体利益的情绪。

当然，它在很大程度上是象征性的，并没有为达成共同同意的监管规定指明任何具体的道路。

然而，该声明明确强调了先进人工智能模型（通常被称为“基础模型”）带来的安全风险，并呼吁采取积极措施来减轻潜在的危害。

该声明鼓励各国采取“支持创新和相称的治理和监管方法”，考虑到与人工智能相关的好处和风险。

宣言还呼吁包括国家、公司、公民社会和学术界在内的所有行为者共同承担确保人工智能安全的责任。它强调有必要进行国际合作，并采取政策弥合技术发达国家和技术落后国家之间的数字鸿沟。

在应对人工智能风险方面，《宣言》制定了明确的议程，重点是识别关注点，建立对风险的科学和循证理解，以及制定各国基于风险的政策。

它进一步承诺支持一个关于前沿人工智能安全的国际包容性科学研究网络，旨在为政策制定提供最好的可用科学。

与会国家表示致力于维持全球人工智能对话，参与国际论坛，继续研究前沿人工智能安全。

签署该声明的国家是：

• 澳大利亚
• 巴西
• 加拿大
• 智利
• 中国
• 欧盟
• 法国
• 德国
• 印度
• 印度尼西亚
• 爱尔兰
• 以色列
• 意大利
• 日本
• 肯尼亚
• 沙特阿拉伯王国
• 荷兰
• 尼日利亚
• 菲律宾
• 大韩民国
• 卢旺达
• 新加坡
• 西班牙
• 瑞士
• 蒂尔克耶
• 乌克兰
• 阿拉伯联合酋长国
• 联合王国
• 美利坚合众国

峰会第一天，包括卡马拉·哈里斯和里什·苏纳克在内的领导人发表了讲话。

阅读更多关于从第一天开始的关键点在这里。

定于2023年11月1日和2日举行的英国人工智能安全峰会已经公布了第一天的完整计划。

为了制定开发安全人工智能的方法，该活动承诺将汇集国际政府、主要人工智能公司和领先的研究专家。

值得注意的是，尽管与美国的地缘政治紧张局势升级，预计中国代表将出席会议。

英国政府 发布了完整的第一天日程表，第二天的详细资料仍在公布。

第1天：导航前沿AI

第一天的特点是围绕风险和安全的任务围绕“前沿模型”，这个术语已经定义了像GPT—4这样复杂的基础模型。

开幕全体会议

峰会首先是开幕式全体会议，由英国科学、创新和技术部国务大臣发表讲话，随后是人工智能开发领域领导国家和英国前沿人工智能工作组的贡献。

圆桌讨论

一系列分组会议将促成就各种关键问题进行多学科对话：

1. 前沿人工智能滥用带来的全球安全风险：评估最近和即将到来的前沿人工智能模型引起的安全问题，重点是生物安全和网络安全。
2. 前沿人工智能能力不可预测的进展：讨论人工智能能力快速飞跃的影响，新预测方法的出现，以及人工智能发展的未来轨迹，包括开源考虑。
3. 可能会失去对高级人工智能的控制：考虑人工智能超过人类监督的情况、相关风险，并探索预防和监测工具。
4. 前沿人工智能的社会融合应对与人工智能在选举、偏见、犯罪、在线安全和全球不平等方面的作用有关的挑战，同时讨论现有的对策。

提高前沿AI安全性

另一系列圆桌讨论将重点关注提高人工智能安全性：

1. 人工智能开发人员负责任的扩展讨论前沿人工智能开发中负责任的能力扩展、风险评估、治理和问责制的最佳实践。
2. 国家决策者在人工智能中的作用讨论管理人工智能风险的政策措施，包括监控、问责、许可和管理开源人工智能模型。
3. 国际人工智能合作确定全球合作对于降低风险和抓住前沿人工智能带来的机遇至关重要的领域。
4. 科学界对人工智能安全的贡献评估当前人工智能安全、紧急研究领域和新兴解决方案的技术解决方案。

这一天结束了一个小组讨论，讨论如何利用人工智能来彻底改变下一代的教育，随后是英国国务卿的闭幕词。

第二天：塑造人工智能的未来

日本首相Rishi Sunak将领导一个由政府代表、企业领袖和专家组成的会议，加强对管理新兴人工智能技术风险的讨论。

在一次平行会议上，英国技术大臣米歇尔·多兰将与国际同行再次会面，以巩固峰会期间讨论的行动方针。

顶级科技老板和政界人士出席峰会

来自硅谷的高管将出席峰会，包括OpenAI的Sam Altman、Google Deepmind的Demis Hassabis和Anthropic的Dario Amodei。

预计将出席峰会的其他知名与会者包括来自埃隆·马斯克的Xai的代表，以及人工智能企业Palantir、Cohery和稳定的首席执行官亚历克斯·卡普、艾丹·戈麦斯和埃马德·莫斯塔克。

此外，科技巨头Meta和微软的政策负责人，尼克·克莱格爵士和布拉德·史密斯爵士，以及谷歌的詹姆斯·曼伊卡也将代表各自的公司。

为筹备峰会，与会企业已 鼓励认可一项声明预计世界各国领导人将在会议上签署该协议。

包括美国、欧盟、G7国家和中国在内的官员正在进行谈判，以最终敲定这份声明的措辞。预计它将包括一条严厉的警告，如果不加以控制，人工智能可能会造成潜在的“灾难性伤害”。

公司还被要求披露其政策，详细说明对“安全人工智能开发和部署”的承诺，以及他们对人工智能如何“解决人类最紧迫和最重要的问题”的看法。

美国副总统卡马拉·哈里斯预计将出席会议。据报道，德国总理奥拉夫·舒尔茨拒绝了邀请，但法国总统埃马纽埃尔·马克龙和来自法国的代表， 中国很可能会参与.

虽然峰会预计不会直接导致创建新的人工智能监管机构或国际法，但它的目标是朝着未来监管迈出的关键一步。

一位政府发言人强调了峰会的合作方式，他说：“人工智能安全峰会将汇集包括国际政府、学术界、工业界和民间社会在内的一系列与会者，作为合作方式的一部分，以推动在安全和负责任的人工智能发展方面采取有针对性的、快速的国际行动。”