国会关注兰德对人工智能安全机构的影响

AI行业新闻5个月前发布 yundic
469 0 0

拜登总统10月签署的行政命令责成美国国家标准与技术研究所(NIST)研究如何测试和分析人工智能模型的安全性。兰德公司对NIST的影响正在受到审查。

兰德是一家有影响力的智库,与科技亿万富翁和人工智能角色有着深厚的联系,这些角色与“有效利他主义”运动保持一致。最近有消息称,兰德公司在塑造拜登关于人工智能安全的行政命令方面发挥了重要的咨询作用。

美国国会科学、空间和技术委员会在一封信中表达了对NIST如何执行其任务以及兰德等团体的研究如何影响其工作的担忧。

这封写给NIST的信说,该委员会“关注AISI将如何资助外部组织以及这些奖项的透明度”。

谁在为AISI提供咨询?

NIST成立了人工智能安全研究所(AISI),并可能会外包大量人工智能安全研究所需要做的研究。它将把研究成果交给谁?NIST没有说,但据报道,该研究所有两个组织参与了该研究。

该委员会的信中没有提到兰德的名字,但提及该智库的一份报告表明,他们担心兰德可能会继续对人工智能监管施加影响。

信中写道:“组织通常指出人工智能系统的重大投机性好处或风险,但未能提供证据证明其主张,产生不可复制的研究,隐藏在秘密背后,使用缺乏结构有效性的评估方法,或引用未能通过强大的审查过程的研究,如学术同行审查。

为了说明这一观点,这篇论文链接了兰德公司的研究报告,题为“人工智能在大规模生物攻击中的操作风险”。该报告的结论是,LLMS“可以协助策划和实施生物攻击”。

这将如何影响人工智能监管?

兰德公司的研究中,人工智能制造恐惧的动机在你关注金钱时变得更加清晰。兰德公司从Open Philanthropy获得了1550万美元的赠款,该基金是一个致力于支持有效利他主义事业的资助组织。

有效利他主义的支持者是呼吁停止或放缓人工智能发展的声音最大的人之一。如果兰德是据报道负责为AISI进行研究的两个组织之一,那么我们可以预期在不久的将来会有更严格的人工智能监管。

该委员会在信中说:“在实施AISI时,我们希望NIST能够让人工智能安全研究联邦研究基金的接受者遵守与更广泛的联邦研究企业相同的严格的科学和方法学质量准则。

换句话说,仅仅因为像兰德这样的人说人工智能是一个存在的风险,并不意味着它是这样的。

NIST会邀请像Meta副总裁兼首席人工智能科学家Yann LeCun这样的人工智能加速专家的投入吗?LeCun在最近接受《连线》采访时说:”无论何时技术进步,你都无法阻止坏人进入它,然后就是我的好人工智能对抗你的坏人工智能。保持领先的方法是更快地前进。更快进展的方法是开放研究,这样更大的社区就能为之做出贡献。

NIST的工作重点是进行精确的测量。他们选择谁作为顾问将不可避免地改变人工智能监管的规模。

© 版权声明

相关文章

暂无评论

暂无评论...