本月早些时候,Meta宣布将与微软合作发布Llama 2并免费提供,但现在Meta表示计划将其最新的LLM货币化。
大羊驼可以从Meta、拥抱脸和其他一些平台上免费下载。然而,下载它是很容易的部分,而让它以一种可用的方式运行是一个挑战。你需要大量的计算能力才能让Llama 2发挥其潜力,而这正是微软的Azure和亚马逊的AWS等云计算服务发挥作用的地方。
Meta表示,在宣布发布Llama 2时,它正与微软合作,作为其首选的云计算合作伙伴。可以理解的是,微软和其他云计算服务提供商希望向用户收取使用其昂贵的云计算基础设施的费用,但Meta也希望从中分一杯羹。
虽然Llama在技术上是免费的,但Meta表示,每月活跃用户7亿或更多的公司需要获得许可证才能使用它。许可证具体涉及什么尚不清楚,但它将涉及一些现金流Meta的方式。
马克·扎克伯格在季度财报电话会议上表示:“如果你是微软、亚马逊或谷歌这样的公司,你基本上会转售这些服务,我们认为这是我们应该从收入中分一杯羹的东西。”
我们谈论的是多少钱还不清楚,但指望Facebook免费提供Llama 2可能有点天真。扎克伯格说:“我认为这在短期内不会是一大笔收入,但从长远来看,希望这能有所作为。”
一个大日子,https://t.co/5CTqULsfuT
– Meta(@ Meta)2023年7月18日
你真的可以免费使用Llama 2吗?
从技术上讲,你可以免费使用骆驼2,但实际上要花一些钱才能做到这一点。除非个人计算硬件变得更强大、更便宜,否则使用云计算真的是你的最佳选择。
一位开发人员解释说如何在个人计算机上部署Llama 2 但他的结果突出了尝试在本地机器上运行LLM的问题。他没有具体说明他正在使用的CPU,但说他的机器有20GB的RAM。这是一个相当大的RAM数量,但加载模型花了51秒,它花了近4分钟来生成一个250个令牌响应的问题“生命的意义是什么?”。
在Google的Colab免费云计算服务上运行相同的查询需要16秒才能生成相同的响应。Colab可能是你最好的选择运行Llama 2免费,但它是有限的。
所以Meta基本上是在说,‘嘿,我们的工具是免费的!付钱给那些人,让他们在他们的图形处理器上运行模型,然后他们就可以付钱给我们。
Llama 2真的是开源的吗?
除了Llama 2是“免费的”,但不是真的,Meta还因为将LLM称为“开源”而受到批评。一篇关于Open Source Initiative (OSI)该网站解释说,对于真正开源的软件,许可证不能限制谁可以使用它或如何使用软件。
虽然OSI的人并不是说Meta不应该强加商业限制,他们只是希望扎克伯格不要一直称Llama 2为开源的时候。
尽管Meta计划如何使用它存在噪音和不确定性,但看看公司将如何使用Llama 2,以及OpenAI和稳定AI如何回应他们的产品,这将是一件有趣的事情。