英国人工智能安全峰会第二天’

AI最新政策7个月前发布 yundic
341 0 0

在人工智能安全峰会的第二天,英国首相Rishi Sunak试图证明人工智能开发人员将允许政府在工具上市之前对其进行评估。

苏纳克说,峰会的成果”将使平衡朝着有利于人类的方向倾斜”, 该公司透露,包括Meta、Google Deep Mind和OpenAI在内的行业领导者已经同意对他们的人工智能创新进行发布前测试——他们已经在最近由美国开发的一个自愿框架中表示要做的事情。

在首脑会议第二天作出的承诺包括设立一个名为” AI安全研究所.

第二天的另一个标题是即将发布的由“AI教父”Yoshio Bengio领导的“AI科学现状”报告。

苏纳克说:“这一想法的灵感来自于政府间气候变化专门委员会为达成国际科学共识而成立的方式。”

商定的框架倡导在人工智能模型上线前和上线后对其进行全面的安全评估,强调政府参与的合作测试努力,特别是在影响国家安全和社会福利的领域。

Google DeepMind首席执行官Demis Hassabis强调了该行业对这一事业的承诺,他说:“人工智能可以帮助解决我们这个时代一些最关键的挑战,从治愈疾病到解决气候危机。但它也将给世界带来新的挑战,我们必须确保安全地构建和部署这项技术。要做到这一点,需要各国政府、工业界和民间社会的集体努力,以提供信息并制定健全的安全测试和评估。我很高兴看到英国成立人工智能安全研究所,以加快这项重要工作的进展。

中国没有参与这些多边倡议。然而,该协议获得了欧盟和美国、英国、日本、法国和德国等主要国家的支持,并得到了谷歌、亚马逊、微软和Meta等科技巨头的支持。

虽然总理面临关于协议的自愿性质和缺乏约束力立法的问题,但他坚持认为,人工智能需要迅速采取行动,暗示人工智能公司的“约束力要求”可能是不可避免的。

与昨天的布莱奇利公园宣言一起,峰会试图激发围绕人工智能的行动,尽管批评人士基本上认为它是象征性的,而不是可操作的。

在与Sunak上线之前,马斯克在X上发布了一幅讽刺漫画,画中代表全球大国的人物在讨论人工智能风险的同时,还在为统治的可能性摩拳擦掌。

如果没有争议,他什么都不是,但你不得不说,这是一个机智的讽刺峰会,本质上是基于承诺。然而,如果认为这意味着什么都没有实现,那将是简化论者,但谈判背后的真正实质内容仍然是假设。

在峰会结束时,英国政府自豪地发布了由包括英国、美国和欧盟在内的28个国家的政府签署的布莱奇利宣言,承诺在人工智能安全标准方面采取合作方法,这让人想起气候危机协议。

总体而言,Rishi Sunak在人工智能峰会上的外交努力被公认为是一项成就,使英国成为追求全球人工智能安全和监管的先驱,为法国主办2024年下届峰会奠定了基础。

首脑会议第二天

峰会的第二天结束了苏纳克和马斯克之间的辩论。以下是从当天最新(第一次)到较早(最后一次)的一些关键事件。

在这里观看50分钟的流媒体。

  • 马斯克认为,在出现灾难性问题的情况下,物理上的“关闭开关”可以关闭人工智能。如果有一天他们得到了软件更新,突然之间他们就不那么友好了,那该怎么办?马斯克告诉苏纳克。
  • 当Sunak问到为什么马斯克最近改变了Twitter的内容审核系统时,马斯克认为所有的内容审核者都有偏见。他问:“我们如何以共识驱动的方式对待真理?”他说他的目标是得到一个”更纯粹的真相”马斯克声称,他的新审核系统只是提供了更多的上下文和透明度,他说:“一切都是开源的。你可以看到所有的数据,可以看到系统是否有任何游戏,建议改进……真相付出。
  • 马斯克预测,未来,人工智能机器人可能会成为人类的真正朋友。他认为,通过广泛的阅读,他们会有详细的记忆和知识,他说:“你可以每天和它交谈,你实际上会有一个很好的朋友。这将是一件实实在在的事情。
  • 马斯克大胆预测人工智能将发展到人类“不需要工作”的地步。他说:“你可以有一份工作,如果你想满足个人需求,人工智能可以做任何事情。马斯克说,这可能是积极的,也可能是消极的,为寻找意义和目的带来了挑战。但他也认为,这可以提供“普遍的高收入”,并成为最好的家庭教师。总的来说,他看到了教育、生产力和危险工作自动化的许多好处。
  • 当苏纳克指出他因邀请中国而面临批评时,马斯克称赞这一决定是“勇敢的”。马斯克认为,与中国在人工智能安全方面的合作至关重要,并表示他们的参与是一个非常积极的迹象。
  • 马斯克告诉Sunak,他认为政府需要充当“裁判”,以确保人工智能的公共安全,同时仍然允许创新。他重申他的观点,即总的来说,人工智能将是”一股向善的力量”。这与马斯克过去所说的相反,他展示了他对人工智能的曲折看法。
  • 在他们的谈话之前,马斯克对人工智能的潜力表示乐观,但警告说,它可能会带来风险,他使用了一个“魔法精灵问题”的比喻,在那里,愿望经常出错。
  • 在他的新闻发布会上,Sunak为各国政府正在采取的应对人工智能安全风险的措施进行了辩护,称他们正在做的是保护公众的“正确和负责任的事情”,即使风险仍然不确定。
  • 一项新的民意调查发现,只有15%的人对英国政府有效监管人工智能的能力有信心。29%的人表示完全没有信心。
  • 当被问及人工智能是否会构成生存威胁时,Sunak说,有一个合理的案例,它可能会带来核战争或大流行病规模的风险。因此,他认为,领导人有责任采取保护措施。
  • 科学部长多内兰说,她最担心的人工智能风险是机器变得无法控制的“终结者情景”。她认为这是较低的可能性,但影响最大。

对峰会的更多分析将在接下来的几天里公布。总体而言,给人的印象是一个具有象征意义的重大事件,具有巨大的潜力。

但潜力并不容易转化为立法,并最终转化为行动。只有时间能证明这一点。

© 版权声明

英国人工智能安全峰会第一天结束’

AI最新政策7个月前发布 yundic
0 0 0

英国人工智能安全峰会今天拉开帷幕,政界人士、科技老板、研究人员和民间倡导团体的成员齐聚历史悠久的布莱奇利公园。

英国政府公布了“布莱切利宣言”,该宣言得到了来自28个不同国家的代表的支持,包括美国和中国。

声明强调了与最先进的“前沿”人工智能系统相关的严重风险,并明确表示:“这些人工智能模型最重要的能力都可能造成严重甚至灾难性的伤害,无论是故意的还是无意的。

该文件还强调了人工智能风险的全球性以及国际合作应对这些挑战的必要性:“人工智能引发的许多风险本质上是国际性的,因此最好通过国际合作来解决。我们决心以包容的方式共同努力,确保以人为本、值得信赖和负责任的人工智能。

尽管措辞强硬,但该宣言没有设定具体的政策目标,而是安排了六个月后在韩国和一年后在法国举行的额外会议,以继续对话。

英国首相Rishi Sunak积极推动此次峰会,将其视为全球领导人、公司、研究人员和民间社会团体聚集在一起,为人工智能的国际安全标准奠定基础的重要机会。

在一次讲话中,查尔斯国王通过视频说,“我们正在见证人类努力历史上最伟大的技术飞跃之一”,并继续说,“确保这项快速发展的技术保持安全是一项明显的当务之急。”

© 版权声明

英国人工智能工作组顾问警告人工智能对人类的威胁

人工智能驱动工具的快速发展引起了许多技术专家的关注。其中之一是英国人工智能工作组顾问马特·克利福德(Matt Clifford),他警告说,人工智能可能会在大约两年内成为一种超级大国,可以“杀死许多人”。Clifford正在研究为英国首相Rishi Sunak建立政府人工智能工作组的方法。

采访 在TalkTV节目中,Matt Clifford谈到了由人工智能驱动的系统的指数级增长,以及如果不及时得到监管,它们可能带来的潜在风险。克利福德是政府高级研究和发明机构(ARIA)的主席,他警告说,目前的系统正在“以不断增长的速度”变得越来越强大。

人工智能的不同类型风险

他强调需要在各个层面规范人工智能的使用,并表示如果官员们不努力制定安全法规,人工智能系统将在两年内变得更加强大。

“我们有两年的时间来建立一个框架,使控制和监管这些非常大的模型比今天更有可能,” Clifford在接受采访时说。

他还补充说,人工智能构成了不同类型的风险,其中一些可能是短期和长期的问题。

根据人工智能工作组顾问的说法,人工智能有可能“创造生物武器的食谱”,并引发可能对人类构成威胁的严重网络攻击。他指出,作为这样的威胁,人工智能可能会变得过于强大,并导致许多人类死亡。

采访发生在一封关于人工智能潜在风险的公开信出现后不久。的 公开信 由人工智能安全中心(Center for AI Safety)发布,许多知名的人工智能专家在论文上签名。其中一位是OpenAI的CEO Sam Altman,以及被誉为“AI教父”的Geoffrey Hinton。

克利福德在谈到一封公开信时说,他们谈论的是一旦我们有效地创造了一个新物种,某种程度上比人类更高的智能会发生什么。公开信中指出,监管和将人工智能的风险降至最低应该与流行病和核战争等其他社会规模的风险一起,成为全球的优先事项。

人工智能仍然可以用于好

Clifford认为,人工智能仍然可以被用于善,前提是全球范围内的政府找到一种方法来监管它。

”如果它走对了。. .你可以想象人工智能治愈疾病,使经济更有生产力,帮助我们实现碳中和经济,”Clifford说。

© 版权声明

相关文章

暂无评论

暂无评论...