在人工智能安全峰会的第二天，英国首相Rishi Sunak试图证明人工智能开发人员将允许政府在工具上市之前对其进行评估。

苏纳克说，峰会的成果”将使平衡朝着有利于人类的方向倾斜”， 该公司透露，包括Meta、Google Deep Mind和OpenAI在内的行业领导者已经同意对他们的人工智能创新进行发布前测试——他们已经在最近由美国开发的一个自愿框架中表示要做的事情。

在首脑会议第二天作出的承诺包括设立一个名为” AI安全研究所.

现场直播：日本首相苏纳克在布莱切利公园https://t.co/YLn6O8FO7f举行的人工智能安全峰会上发表的声明

–英国首相(@10DowningStreet)2023年11月2日

第二天的另一个标题是即将发布的由“AI教父”Yoshio Bengio领导的“AI科学现状”报告。

苏纳克说：“这一想法的灵感来自于政府间气候变化专门委员会为达成国际科学共识而成立的方式。”

的 商定的框架倡导在人工智能模型上线前和上线后对其进行全面的安全评估，强调政府参与的合作测试努力，特别是在影响国家安全和社会福利的领域。

Google DeepMind首席执行官Demis Hassabis强调了该行业对这一事业的承诺，他说：“人工智能可以帮助解决我们这个时代一些最关键的挑战，从治愈疾病到解决气候危机。但它也将给世界带来新的挑战，我们必须确保安全地构建和部署这项技术。要做到这一点，需要各国政府、工业界和民间社会的集体努力，以提供信息并制定健全的安全测试和评估。我很高兴看到英国成立人工智能安全研究所，以加快这项重要工作的进展。

中国没有参与这些多边倡议。然而，该协议获得了欧盟和美国、英国、日本、法国和德国等主要国家的支持，并得到了谷歌、亚马逊、微软和Meta等科技巨头的支持。

虽然总理面临关于协议的自愿性质和缺乏约束力立法的问题，但他坚持认为，人工智能需要迅速采取行动，暗示人工智能公司的“约束力要求”可能是不可避免的。

与昨天的布莱奇利公园宣言一起，峰会试图激发围绕人工智能的行动，尽管批评人士基本上认为它是象征性的，而不是可操作的。

在与Sunak上线之前，马斯克在X上发布了一幅讽刺漫画，画中代表全球大国的人物在讨论人工智能风险的同时，还在为统治的可能性摩拳擦掌。

如果没有争议，他什么都不是，但你不得不说，这是一个机智的讽刺峰会，本质上是基于承诺。然而，如果认为这意味着什么都没有实现，那将是简化论者，但谈判背后的真正实质内容仍然是假设。

叹息www.example.com

– Elon Musk（@ elonmusk）2023年11月2日

在峰会结束时，英国政府自豪地发布了由包括英国、美国和欧盟在内的28个国家的政府签署的布莱奇利宣言，承诺在人工智能安全标准方面采取合作方法，这让人想起气候危机协议。

总体而言，Rishi Sunak在人工智能峰会上的外交努力被公认为是一项成就，使英国成为追求全球人工智能安全和监管的先驱，为法国主办2024年下届峰会奠定了基础。

在推动了9年的国际人工智能安全峰会之后，我真的很感动，终于成为它的一部分！@ RishiSunak的成功比我预期的要多，1）美国和中国，2）那些关注当前危害和存在风险的人之间的惊人团结和3）… www.example.com

– Max Tegmark（@ tagmark）2023年11月2日

首脑会议第二天

峰会的第二天结束了苏纳克和马斯克之间的辩论。以下是从当天最新(第一次)到较早(最后一次)的一些关键事件。

在这里观看50分钟的流媒体。

与@ RishiSunak的AI讨论
pic.twitter.com/f5FHGQzE4r

-埃隆·马斯克(@elonmusk)2023年11月2日

• 马斯克认为，在出现灾难性问题的情况下，物理上的“关闭开关”可以关闭人工智能。如果有一天他们得到了软件更新，突然之间他们就不那么友好了，那该怎么办？马斯克告诉苏纳克。
• 当Sunak问到为什么马斯克最近改变了Twitter的内容审核系统时，马斯克认为所有的内容审核者都有偏见。他问：“我们如何以共识驱动的方式对待真理？”他说他的目标是得到一个”更纯粹的真相”马斯克声称，他的新审核系统只是提供了更多的上下文和透明度，他说：“一切都是开源的。你可以看到所有的数据，可以看到系统是否有任何游戏，建议改进……真相付出。
• 马斯克预测，未来，人工智能机器人可能会成为人类的真正朋友。他认为，通过广泛的阅读，他们会有详细的记忆和知识，他说：“你可以每天和它交谈，你实际上会有一个很好的朋友。这将是一件实实在在的事情。
• 马斯克大胆预测人工智能将发展到人类“不需要工作”的地步。他说：“你可以有一份工作，如果你想满足个人需求，人工智能可以做任何事情。马斯克说，这可能是积极的，也可能是消极的，为寻找意义和目的带来了挑战。但他也认为，这可以提供“普遍的高收入”，并成为最好的家庭教师。总的来说，他看到了教育、生产力和危险工作自动化的许多好处。
• 当苏纳克指出他因邀请中国而面临批评时，马斯克称赞这一决定是“勇敢的”。马斯克认为，与中国在人工智能安全方面的合作至关重要，并表示他们的参与是一个非常积极的迹象。
• 马斯克告诉Sunak，他认为政府需要充当“裁判”，以确保人工智能的公共安全，同时仍然允许创新。他重申他的观点，即总的来说，人工智能将是”一股向善的力量”。这与马斯克过去所说的相反，他展示了他对人工智能的曲折看法。
• 在他们的谈话之前，马斯克对人工智能的潜力表示乐观，但警告说，它可能会带来风险，他使用了一个“魔法精灵问题”的比喻，在那里，愿望经常出错。
• 在他的新闻发布会上，Sunak为各国政府正在采取的应对人工智能安全风险的措施进行了辩护，称他们正在做的是保护公众的“正确和负责任的事情”，即使风险仍然不确定。
• 一项新的民意调查发现，只有15%的人对英国政府有效监管人工智能的能力有信心。29%的人表示完全没有信心。
• 当被问及人工智能是否会构成生存威胁时，Sunak说，有一个合理的案例，它可能会带来核战争或大流行病规模的风险。因此，他认为，领导人有责任采取保护措施。
• 科学部长多内兰说，她最担心的人工智能风险是机器变得无法控制的“终结者情景”。她认为这是较低的可能性，但影响最大。

对峰会的更多分析将在接下来的几天里公布。总体而言，给人的印象是一个具有象征意义的重大事件，具有巨大的潜力。

但潜力并不容易转化为立法，并最终转化为行动。只有时间能证明这一点。

英国人工智能安全峰会今天拉开帷幕，政界人士、科技老板、研究人员和民间倡导团体的成员齐聚历史悠久的布莱奇利公园。

英国政府公布了“布莱切利宣言”，该宣言得到了来自28个不同国家的代表的支持，包括美国和中国。

声明强调了与最先进的“前沿”人工智能系统相关的严重风险，并明确表示：“这些人工智能模型最重要的能力都可能造成严重甚至灾难性的伤害，无论是故意的还是无意的。

该文件还强调了人工智能风险的全球性以及国际合作应对这些挑战的必要性：“人工智能引发的许多风险本质上是国际性的，因此最好通过国际合作来解决。我们决心以包容的方式共同努力，确保以人为本、值得信赖和负责任的人工智能。

尽管措辞强硬，但该宣言没有设定具体的政策目标，而是安排了六个月后在韩国和一年后在法国举行的额外会议，以继续对话。

英国首相Rishi Sunak积极推动此次峰会，将其视为全球领导人、公司、研究人员和民间社会团体聚集在一起，为人工智能的国际安全标准奠定基础的重要机会。

在一次讲话中，查尔斯国王通过视频说，“我们正在见证人类努力历史上最伟大的技术飞跃之一”，并继续说，“确保这项快速发展的技术保持安全是一项明显的当务之急。”

观看国王在英国有史以来第一次人工智能安全峰会上发表讲话时对人工智能的希望信息。