人工智能智库兰德公司在起草拜登的行政命令中发挥了关键作用,’

AI最新政策5个月前发布 yundic
235 0 0

兰德公司是一家与科技亿万富翁资金网络有着深厚联系的智库,特别是通过Open Philanthropy,在起草乔·拜登总统关于人工智能的行政命令方面发挥了关键作用。

根据 Politico这一命令受到有效利他主义(一种倡导数据驱动的慈善方法的哲学)的严重影响,引入了全面的人工智能报告要求。

兰德公司的参与引起了人们的关注,因为它来自开放慈善组织(Open Philanthropy)等与达斯汀·莫斯科维茨(Dustin Moskovitz)等技术领袖有关的组织。兰德公司发言人杰弗里·希达(Jeffrey Hiday)表示,兰德公司的存在是为了“就当今的关键话题进行研究和分析,然后与决策者分享这些研究、分析和专业知识。

这涉及就最近的行政命令进行广泛协商,包括起草最后文件。

今年早些时候,兰德公司从开放慈善机构获得了超过1500万美元的可自由支配赠款,专门用于人工智能和生物安全项目。

开放慈善以其有效的利他主义方式而闻名,它与Anthropic和OpenAI等人工智能企业保持着个人和财务上的联系。

此外,兰德公司的领军人物与这些人工智能公司的企业框架交织在一起,在最高层,至少在美国是这样。

批评人士认为,该智库与有效利他主义的结盟可能会扭曲其研究重点,盖过种族偏见或侵犯版权等迫在眉睫的人工智能担忧。

兰德公司的动态还反映了一个更广泛的趋势, 有效的利他主义正在日益塑造人工智能政策-至少进入它的叙事。这项运动由萨姆·班克曼-弗里德等有争议的人物倡导,主张解决长期的生存风险,包括先进人工智能带来的风险,如生物武器的发展。

然而,这种关注被批评为可能通过转移对现有人工智能危害的注意力来服务于顶级科技公司的利益。

从本质上讲,有效的利他主义可能会推迟立即采取的实际行动,转而采取更具假设性的长期计划。

OpenAI的内部斗争:利他主义与商业化

OpenAI,最初是一个非营利组织现在,微软正在努力应对这些利他主义目标与商业和盈利现实之间的紧张关系,特别是在微软投资10亿美元以及其最近860亿美元估值之后。

OpenAI在生成人工智能行业的顶端相当孤独时,保持这一理念相对简单。

现在,随着竞争的激烈,特别是谷歌的Gemini Ultra,它直接威胁到了GPT—4的优势,要保持克制和谨慎,同时保持令人垂涎的位置在人工智能模型堆的顶部并不特别容易。

在首席执行官萨姆·奥尔特曼的领导下,OpenAI的紧张局势达到了顶点。他管理OpenAI的方式体现了硅谷的技术资本主义与围绕人工智能风险的日益高涨的叙事之间的冲突。人们猜测,奥特曼没有认真对待公司的安全问题,尽管这一说法仍未得到证实。

尽管董事会成员对他对安全和透明度的承诺感到担忧,但奥特曼复职首席执行官标志着公司历史上的一个关键时刻,引发了人们对有效利他主义和董事会权力的影响的质疑。

现在的问题是,有效的利他主义和长期主义理想能否与人工智能领域的快节奏商业和技术进步共存?

监管可保障人工智能的价值创造活动

今年早些时候,Luke Sernau在谷歌的备忘录 开源AI社区对所有领先AI开发者的主导地位构成了直接挑战。

备忘录说:“我们在OpenAI方面做了很多工作。谁将跨越下一个里程碑?下一步会是什么?但令人不安的事实是,我们没有能力赢得这场军备竞赛,OpenAI也没有。当我们争吵的时候,第三个派系一直在悄悄地吃我们的午餐。当然,我说的是开源。”

开源模型,例如Meta的LLaMA, 米斯特拉尔混合症正在迅速缩小基层创新与大科技之间的差距。

虽然被认为是朝着负责任的人工智能开发的一步,但谷歌和OpenAI等公司对人工智能监管的推动也可能会破坏开源人工智能社区,该社区提供了一个中心化模式的替代方案。

当然,开源模型也更便宜,并使企业、研究机构、学生和其他用户能够在他们的解决方案中建立一定的所有权和主权。

商业人工智能开发者是真正关心人工智能的安全和道德发展,还是他们部分是为了保持市场主导地位和控制人工智能创新的战略策略?

人工智能行业的利他主义、政治和商业的交集异常复杂。随着人工智能的发展,协调这些不同的利益将继续导致意见分歧。

© 版权声明

相关文章

暂无评论

暂无评论...