更多人工智能公司加入美国人工智能自愿框架

AI行业新闻1年前 (2023)发布 yundic
233 0 0

拜登政府已经招募了另外8家人工智能公司加入其自愿安全框架。

谷歌、Anthropic、微软、亚马逊、OpenAI、Meta和Inflection在7月下旬加入了白宫的道德人工智能开发和部署自愿框架。

本周,白宫宣布Adobe、IBM、Nvidia、Salesforce、Cohere、Scale AI、Palantir和Stability加入了他们的行列。

拜登的框架鼓励企业共享安全协议和保障措施,披露其人工智能技术的能力和局限性,并利用人工智能“帮助应对社会面临的最大挑战”。

这一承诺引起了人们的关注,因为一些参与公司—即Palantir—以其军事人工智能应用和国内监控技术而闻名。该公司因其与各国政府和军事组织的全球关系而臭名昭著。

Palantir首席执行官Alex Karp 最近鼓励 美国将人工智能用于武器和军事技术,空军已经 进行了成功的试飞 一架人工智能控制的喷气式飞机

卡普在今年2月举行的人工智能军事技术峰会上表示,该公司正在为乌克兰军方提供战场应用的数据分析。尽管如此,卡普规定,“允许数据源透明的架构”应该“由法律授权”。

在参议院军事委员会的听证会上,Palantir首席技术官Shyam Sankar评论说,停止人工智能开发可能会损害美国对中国的技术优势。他强调,美国需要进一步投资于“将恐吓我们对手的能力”。

批评人士认为,白宫的框架忽略了重要的道德考虑,例如生成人工智能训练数据的透明度,而大多数公司都将这些数据严格锁定。

虽然白宫表示正在制定一项行政命令,以“保护美国人的权利和安全”,但没有公布更多细节。

道德人工智能的复杂性不仅限于Palantir。谷歌和微软等其他主要科技公司也在军事合同上有争议。

谷歌曾经领导过Maven项目这是一项使用人工智能进行无人机监视的倡议,但在员工抗议后放弃了它。据报道,Palantir后来接手了这个项目。

就目前而言,拜登政府的努力主要集中在不具约束力的建议和行政命令上。

白宫办公厅主任杰夫·泽因茨(Jeff Zeins)告诉路透社,政府正在“动用我们所拥有的一切杠杆”,以减轻与人工智能相关的风险。

与此同时,美国参议院多数党领袖查克·舒默(Chuck Schumer)正在举办一系列“人工智能洞察论坛”,第一次论坛将于明天(9月13日)举行。

白宫自愿框架的覆盖范围扩大,

根据一个政府概况 就该框架而言,迄今已加入的国家所作的承诺,是”政府行动的重要桥梁。

公司已经同意在公开发布之前对其人工智能系统进行严格的内部和外部安全测试。

白宫表示:“这项测试将部分由独立专家进行,可防范一些最重要的人工智能风险来源,如生物安全和网络安全。”

值得注意的是,这些公司还将致力于在行业内以及与政府、公民社会和学术界共享有关管理人工智能风险的信息。

这旨在形成一个改进人工智能安全协议的协作环境,并为阻止规避保障措施的企图提供技术合作平台。

白宫透露:”在制定这些承诺时,政府咨询了澳大利亚、巴西、加拿大、智利、法国、德国、印度、以色列、意大利、日本、肯尼亚、墨西哥、荷兰、新西兰、尼日利亚、菲律宾、新加坡、韩国、阿联酋和英国。”

还有其他一些旨在增强美国对抗人工智能的举措,比如一场名为”人工智能网络挑战”与DARPA合作。

人工智能监管似乎正在加速达到临界质量,欧盟也在朝着其人工智能法案的最终版本迈进。

© 版权声明

相关文章

暂无评论

暂无评论...