OpenAI最近的活动突出了“有效利他主义”及其分支“长期主义”的意识形态。
但是w这些“哲学”到底是什么意思？它们对人工智能政治和治理有何影响？
OpenAI最初是一个非营利组织。然后，在2019年，它成为一个“上限”的营利，定义为“我们原来的非营利性和一个新的上限利润部门之间的合作伙伴关系”。
一旦该公司知道它坐在什么，毕竟，它不会永远远离投资者和盈利。
自2019年以来，支撑OpenAI使命的有效利他主义的作用已经消失。
什么是有效的利他主义？
有效利他主义是不久前由牛津大学学者威廉·麦卡斯基尔和托比·奥德创立的一种现代哲学。
简而言之，它寻求在一般意义上最大限度地对地球产生积极影响，定义为“利用证据和理由找出如何尽可能造福他人，并在此基础上采取行动。”
其子部分，长期主义，侧重于减少生存风险，以确保子孙后代的福祉。这源于对短期周期性政府的批评。它认为，当前的治理不适合我们需要的系统性、一致性的行动来支持我们的星球。
OpenAI的成立有着发展人工智能造福人类的崇高目标，它与这些原则产生了共鸣。
然而，该公司的商业扩张和对投资的支持，如微软的10亿美元，在这些利他目标和实际业务需求之间产生了冲突。
OpenAI的利他主义思想
这种意识形态的冲突达到了 OpenAI内部的断点.
一边是硅谷品牌的技术资本主义，用大规模的风险投资支持颠覆性的想法。
另一方面，更缓慢、更谨慎的做法已经成为人工智能技术老板们的事实立场。 面对国家和国际上要求谨慎调整其产品的压力，他们还能说些什么呢？
人工智能要想取得进展，就必须安抚那些害怕它的人。虽然关于人工智能是否真的危险存在相当大的争论，但关键是很多人都很担心。
这种二分法在奥特曼身上得到了体现，他在推动OpenAI成为科技巨头的同时，也对先进人工智能构成的生存威胁发出了警告。再问一次，他有什么选择？
为了让人放心，Altman强调了OpenAI的结构如何保护公司避免走上风险更高的道路，但他重新担任首席执行官则为此付出了代价。奥特曼被武力复职，不管你是否认为这是一个真诚的团结行动。
“在纸面上，董事会拥有权力，这就是山姆·奥特曼（Sam Altman）的方式，”有效利他主义创始人之一、人工智能治理中心（CAIS）成员托比·奥德（Toby Ord）说。
他继续说：“相反，很大的权力似乎属于奥特曼个人，员工和微软。
董事会动态和挑战
董事会成员解雇奥特曼，其中一些人与有效的利他主义运动有关，这威胁到OpenAI继续将自己作为一家专注于人道主义福利的新型公司进行营销的能力。
董事会成员声称，奥特曼在沟通中并不坦率，但大多数人认为他没有认真对待安全问题。
OpenAI的新董事会虽然目前受到与旧董事会相同的规则约束，但不会对Altman提出同样的抵制。
这场危机的解决，随着奥特曼的回归和董事会改组，留下了关于公司未来发展方向和创始原则的问题。OpenAI已经被释放—Altman将不会被删除，直到他完成。
然而，OpenAI将很难加速风险更高的人工智能开发，纯粹是因为这次董事会改组。如果 OpenAI太牛了，他们可能会加快对他们的行动。他们正在接受严密的检查， 像联邦贸易委员会这样的组织已经.
企业如何将长期的利他主义哲学与技术和商业进步的现实相协调？
两者是否相容？他们曾经相容过吗？
