高端GPU短缺可能会减缓人工智能的发展

AI行业新闻10个月前发布 yundic
519 0 0

全球的科技公司都渴望高端GPU芯片,而制造商似乎无法满足需求。

在每一个备受瞩目的人工智能模型背后,都有一大批不知疲倦的GPU——即使是业内的一线玩家也无法满足它们。

训练AI模型需要巨大的计算资源,但制造商的理由相对较少,高端GPU不是你可以一夜之间就能旋转起来的东西。绝大多数需求落在了业内老将英伟达的肩上,将其今年的市值推高至1万亿美元。

目前,似乎很少有人能从GPU短缺中获得安全, —而且你离英伟达越远,你得到他们的机会就越低。

今年5月,OpenAI首席执行官Sam Altman告诉美国参议院:“我们的GPU非常短缺,使用该工具的人越少越好。

最近,GPT—4性能的下降导致许多人猜测OpenAI是否无法满足需求,迫使他们修改和调整模型的各个方面。

与此同时,在中国,GPU短缺造成了 相当奇怪的黑市 企业买家不得不在深圳赛格(SEG)摩天大楼的楼层进行不正当的交易,购买英伟达(Nvidia)的A100和H100芯片——这是一个网络朋克式的场景,直接从一款Deus Ex视频游戏中撕下。

微软的 年报 最近强调,人工智能芯片的长期短缺是投资者的潜在风险因素。

该报告称:“我们将继续寻找和评估扩大数据中心位置和增加服务器容量的机会,以满足客户不断变化的需求,特别是考虑到对人工智能服务的需求不断增长。

“我们的供应商依赖于许可和可建设的土地,可预测的能源,网络供应和服务器,包括图形处理单元(GPU)和其他组件。

对GPU的贪得无厌

计算能力是人工智能发展的一个重要瓶颈,但很少有人预测到这种规模的需求。

如果这种需求水平是可预测的,那么人工智能芯片制造商将比英伟达和少数初创公司更多,据估计,英伟达至少控制了84%的市场份额。AMD和英特尔只是刚刚进入游戏。

穆迪投资者服务公司(Moody’s Investors Service)高级副总裁拉杰·乔希(Raj Joshi)表示,“没有人能模拟出这种需求增长的速度或幅度,”“我认为该行业还没有准备好迎接这种需求激增。

NVIDIA在5月份的财报电话会议上宣布,它已“为下半年采购了大幅增加的供应”,以满足不断增长的人工智能芯片需求。

与此同时,AMD表示,它将在接近今年年底公布其对英伟达AI GPU的答案。AMD首席执行官Lisa Su表示:”客户对我们的人工智能解决方案的兴趣非常浓厚。”

一些行业专家认为,随着英伟达的竞争对手扩大产品,芯片短缺可能会在两到三年内得到缓解。几家初创公司现在正夜以继日地工作, 堵住这一爆炸性的需求.

任何和所有能够制造适合人工智能工作负载的高端芯片的企业都会做得很好,但这是一个罕见的类别,因为GPU的研究和构建非常冗长。

人工智能必须变得更瘦

像Inflection这样的相对新鲜的人工智能开发人员正在急于建立庞大的训练栈。

在引发了一个13亿美元,Infltion计划组装一个由22,000个高端H100芯片组成的GPU集群。

从长远来看,英伟达最近与CoreWeave合作, 粉碎人工智能训练基准 它包含了3584个芯片的集群,包括在大约10分钟内训练一个大型语言模型(LLM),如GPT—3.5。

虽然人工智能领先者对权力的追求围绕着堆叠GPU,这开始看起来像是封建的土地掠夺,但其他人正专注于倾斜人工智能模型,以从当前技术中获得更多里程。

例如,开源社区的开发人员最近找到了在MacBook等紧凑型设备上运行LLM的方法。

需求是发明之母,对吗?Sid Sheth,人工智能初创公司d-Matrix的创始人兼首席执行官告诉cnn.“因此,现在人们无法获得无限的计算能力,他们正在寻找足智多谋的方法,以更智能的方式使用他们所拥有的任何东西。

此外,GPU的短缺对那些希望人工智能发展放缓的人来说是个好消息——这项技术真的需要比现在更快地发展吗?

可能不会正如Sheth所说,“Net—Net,这将是一个因祸得福。”

© 版权声明

相关文章

暂无评论

暂无评论...