Elon Musk宣布Sam Altman和OpenAI追求利润

AI行业新闻3个月前发布 yundic
278 0 0

埃隆·马斯克对OpenAI及其联合创始人萨姆·奥特曼和格雷格·布罗克曼提起诉讼,指控他们违反了他们在三人创立OpenAI时签署的协议。

该诉讼提供了一个有趣的视角,该公司已成为开发最先进人工智能模型的领导者。这取决于OpenAI的两个主要目标,这些目标被记录在该公司的“创始协议”中。

三人一致认为,OpenAI“将是一个为人类利益开发AGI的非营利性组织,而不是一个寻求股东利益最大化的营利性公司。”

他们还同意,OpenAI“将是开源的,只会权衡相互抵消的安全考虑,不会因为专有的商业原因而将其技术封闭和保密。”

马斯克担心,现在仍然担心,像谷歌这样的公司对AGI的有利可图的追求和对该技术的独家控制将对人类社会有害。

该协议背后的想法是,OpenAI将创建一个开放和安全的AGI,人类可以免费使用,从而消除营利性公司使用该技术损害人类的风险。

突破口

如今无可争议的领先人工智能模型是OpenAI的GPT—4,但尽管开发该模型的公司名不为人知,但它并没有什么可以远程开放的。与GPT—3不同的是,OpenAI甚至没有发布一份技术论文详细说明了GPT—4的工作原理。

虽然创始协议称该公司将追求开源技术,但只有OpenAI,可能还有微软,可以访问GPT—4的代码,权重和训练数据。

运营像OpenAI这样的公司需要花钱,所以它向用户收费使用其产品也就不足为奇了。但它与微软的独家授权协议意味着它的模型现在被用来为大科技公司创造利润。这与马斯克说他们都同意的创始原则完全相反。

该诉讼称,“OpenAI,Inc.它已经转变为世界上最大的科技公司微软的一个闭源子公司。在其新董事会下,它不仅在开发,而且实际上正在完善AGI,以最大限度地提高微软的利润,而不是造福人类。

我们有AGI吗?

微软的许可协议仅适用于OpenAI的前AGI技术。如果一个OpenAI模型被确定为已经达到AGI的级别,那么许可协议将阻止微软访问它。

马斯克的诉讼提出了大胆的主张,声称“GPT—4是AGI算法”,因此微软不应该获得它。诉讼要求法院裁定这是真的。我不知道法官和陪审团应该如何做到这一点,因为没有一个行业公认的定义,确切地说什么是AGI。

该诉讼也证实了OpenAI工程师一直在研究的传言。诉讼声称“OpenAI目前正在开发一款名为Q *(Q星)的模型,该模型对AGI具有更强的要求。”

最终,根据微软的许可协议,什么才是AGI的资格,是由OpenAI董事会决定的。在奥特曼被解雇、重新招聘和董事会改组之后,决定权现在取决于新的董事会成员,他们是在微软的支持下被任命的。

这就是为什么伊利亚·萨茨凯弗被从董事会上除名,悄悄地被困在密室里的原因吗?几个月来有他的消息吗?伊利亚看到了什么?

不要指望新董事会急于声称AGI已经实现,即使这是公司明确声明的目标。

AI担心

诉讼背后的一个明确的动机是马斯克一直担心AGI落入坏人之手。

该诉讼讲述了马斯克在2012年与DeepMind联合创始人Demis Hassabis会面,讨论这些担忧,其中一些也与Hassabis分享。

它还说,“在与哈萨比斯先生和DeepMind的投资者会面后,其中一位投资者表示,他能为人类做的最好的事情就是当场射杀哈萨比斯先生。

当马斯克与时任谷歌首席执行官的拉里·佩奇讨论他的担忧时,佩奇表示,超智能人工智能取代人类只会是“进化的下一个阶段”,并声称马斯克的亲人类观点是一个“旁观者”。

马斯克是过于戏剧化了,还是我们应该担心?

如果你想了解该行业的一大部分是如何走到今天的地步,这起诉讼值得一读。不过,此案不太可能在短期内得到解决。

OpenAI很可能证实了马斯克对AI的担忧,并以此作为不以开源方式发布其模型的主要原因。对于OpenAI已经非常繁忙的法律团队来说,争论该公司追求利润可能是一项艰难的工作。

© 版权声明

相关文章

暂无评论

暂无评论...