首页 > 科技未来 > 内容

2024 年 GPU 价格会下降吗？

发布于：2024-06-17 编辑：匿名来源：网络

以往，当我们回顾今年最受业界关注的芯片时，相信大多数人都会投票给GPU。

年中，我们总能听到“GPU短缺”、“英伟达激增”、“黄仁勋分享成功秘诀”等说法。

不可否认，每年生成式AI的热潮无边无际，世界各地的高科技公司都在争先恐后地加入AI军备竞赛。

随之而来的是计算能力的短缺和全球对 GPU 的争夺。

1.世界上最受欢迎的GPU。

今年以来，人工智能大型AI模型的消息层出不穷。

OpenAI、百度、谷歌、腾讯都在打造自己的大模型。

这些各种大型模型我们就不细说了，但是构建大型模型最重要的就是GPU，而年需求量最大的GPU无非是：A/H。

首当其冲的就是AGPU。

OpenAI使用3台HGXA服务器，包含近3万个NVIDIA GPU。

国内云计算相关专家认为，构建大型AI模型的算力门槛是1万颗Nvidia A芯片。

TrendForce研究显示，以A的算力计算，GPT-3.5大型模型最多需要2万颗GPU，未来商用后可能需要3万颗以上GPU。

H也是业界追求的目标。

H于去年9月量产，采用台积电4N工艺制造。

与前代A相比，H单卡推理速度提升3.5倍，训练速度提升2.3倍。

如果采用服务器集群计算方式，训练速度可提升至9倍。

原来一周的工作量可增加9倍。

现在只需要20个小时。

考虑到整体系统成本，H 每美元的性能比 A 提高了 4 到 5 倍之多。

与 A 相比，H 的单卡价格更高，但由于其训练和推理效率的提高，它已成为最具性价比的——有效的产品。

正因为如此，各大科技公司都争先恐后地购买 NVIDIA HGPU，或者更准确地说，是 NVIDIA 的 8-GPU HGX HSXM 服务器。

英伟达已经成为最受欢迎的铲子卖家。

针对中国市场，按照A工作模式（A芯片的降维版），推出了完全符合出口法规的H芯片的降维版。

2. 热情的买家 “GPU是新时代的比特币。

”OpenAI的首席科学家Ilya Sutskever在他的个人X账户上写下了这句话。

在算力激增的背景下，NVIDIA的GPU已经成为“硬通货”。

夸张的是，一些海外初创企业甚至开始使用GPU进行抵押融资。

硅谷一家初创公司利用H获得了23亿美元的债务融资。

购买H和A的公司分为三类。

第一类是比张更需要的公司，包括培养LLM的初创公司，比如OpenAI、Anthropic等；云服务提供商，例如谷歌云、AWS、腾讯云；以及其他大公司，例如特斯拉。

第二类是需要超越张的公司，即对开源模式做大量微调的初创公司。

第三类，需要10张图片的公司，大多是初创公司和开源力量，热衷于利用大模型的输出来微调小模型。

这些买家需要多少个 GPU？OpenAI可能需要 50,000 块，Inflection 可能需要 22,000 块，Meta 可能需要 25,000 块，各大云厂商（Azure、Google Cloud、AWS、Oracle）可能需要 30,000 块，Lambda、CoreWeave 等私有云可能总共需要100,000 张，Anthropic、Helsing、Mistral、Character，每种可能需要 10,000 张。

仅这些公司就已经需要 432,000 H。

如果按每块约 35,000 美元计算，GPU 的价值约为 1 亿美元。

而这还不包括字节、百度、腾讯等国内公司。

在AI大模型大赛中，上榜的几个国家：中国、美国、沙特阿拉伯、阿联酋都是NVIDIA的座上宾。

沙特阿拉伯通过公共研究机构阿卜杜拉国王科技大学（Kaust）购买了至少一颗 Nvidia 的 H 芯片。

这些芯片将于年底全部交付，总价值约1.2亿美元，将用于训练大型AI模型。

阿联酋还获得了数千块Nvidia芯片的使用权，并推出了自己的开源大语言模型“Falcon40B”。

“Falcon40B”使用A芯片进行训练。

3、GPU出货量 Nvidia H的出货量也备受关注。

研究公司 Omdia 透露，英伟达今年第二季度的 H 出货量为数吨。

按照单个HGPU约3公斤的重量计算，英伟达第二季度销售了约30万块HGPU。

截至第三季度，NVIDIA 已售出约 500,000 个 H 和 AGPU。

每个公司可以分配的 GPU 数量有限。

Meta和微软各购买了15万块HGPU，谷歌、亚马逊、甲骨文和腾讯各购买了5万块HGPU。

对 GPU 的巨大需求导致基于 H 的服务器需要 36 至 52 周才能交付。

据英伟达官方透露，今年一季度之前的所有GPU芯片均已售罄。

业界估计Nvidia明年的出货量将达到10,000-10,000台。

4. GPU 价格可以降低吗？ GPU价格能否下调还要看明年的供需情况。

上图是GPUUtils列出的目前对GPU市场供需变化影响最直接的科技公司，包括：OpenAI、台积电、微软、开发Chat-GPT的Meta、以及筹集US资金的公司成立仅一年时间就筹集了13亿美元资金。

AI新创新拐点。

买家有些人不想买。

Google 和 Meta 都认为 Nvidia 的 GPU 太贵了。

Meta最近宣布打造了自己的DLRM推理芯片，并已得到广泛部署。

Meta公开承认，其即将发布的AI芯片无法直接替代英伟达的芯片，但自研芯片可以降低成本。

即使在谷歌I/O开发者大会上长达两个小时的演讲中，谷歌也一直在称赞Nvidia的HGPU芯片。

这并不妨碍谷歌开始“骑驴找马”，谷歌的云服务器已经使用了自己的TPU。

谷歌TPU v5e于今年8月发布，已成为人工智能硬件领域的强大力量，专为大规模语言模型和生成式人工智能量身定制。

与上一代产品相比，TPUv5e的每美元训练性能显着提升2倍，每美元推理性能显着提升2.5倍，带来显着的成本节省。

其突破性的多芯片架构可实现数万个芯片的无缝连接，突破以往的限制，为处理海量人工智能任务开辟了道路。

有些人买不起。

中国是英伟达第三大市场，占其营收的1/5以上。

随着美国政府宣布进一步禁止在中国销售英伟达H和A芯片，未售出的GPU势必会对英伟达造成负面影响。

此外，人工智能明年可能会出现下滑。

2016年的AI热潮不仅以其大模型震惊业界，还有诸多炒作因素。

毫无疑问，ChatGPT 是今年全球第一。

OpenAI网站4月份访问量突破18亿，跻身全球流量排行榜前20名。

不过，网络分析公司similarweb公布的数据显示，在经历了六个月的激增之后，ChatGPT的访问量首次出现负增长，6月份的访问量环比下降了9.7%。

经过多日的疯狂大模创业，探索者们的心态从理想的兴奋转变为现实。

大型模型的维护依赖大量高性能芯片，仅构建和维护生成式AI工具的成本就非常高。

对于大公司来说这很好，但对于许多组织和创作者来说，这是一笔难以承受的费用。

对于基于生产的人工智能，它将在2019年再次接受公众的检验。

行业分析师认为，2017年围绕生成式人工智能有很多炒作，而人工智能被过度炒作，因为该技术在出现之前需要克服许多障碍。

可以推向市场。

潮水退去后，高性能GPU的需求还有多少？卖家我们先来看看唯一的卖家NVIDIA。

优先考虑两个方面：是否能供应足够的GPU，以及明年是否有新产品刺激市场需求。

在供应方面，众所周知，英伟达只与台积电合作生产H。

台积电共有4个生产节点为5nm芯片提供产能：N5、N5P、N4、N4P。

H仅在N5或N5P的4N节点上产生，这是5nm芯片的增强节点。

同时，英伟达必须与苹果、AMD和高通共享该节点的产能。

至于A显卡，则是台积电生产的。

N7生产线生产。

短期来看，三星和英特尔都无法缓解英伟达因制程技术问题而出现的供应短缺问题。

因此，预计明年英伟达的GPU供应仍将在市场上供不应求。

第二款新品方面，NVIDIA于今年11月底发布了H-H的下一代继任者。

这意味着在处理Llama2等LLM时，H的推理速度比HGPU快近2倍。

从今年开始，亚马逊网络服务、谷歌云、微软Azure和甲骨文云基础设施将成为首批部署基于H的实例的云服务提供商。

虽然H的价格尚未公布，但肯定比H目前每台25,000美元至40,000美元的价格更贵。

从两个方面来看，NVIDIA的GPU供需仍存在很大的不确定性。

但。

在卖方市场中，更多的制造商将会加入。

明年 GPU 的另一个大卖家是 AMD，它已经恢复了理智。

从最近的财报来看，AMD预计第四季度GPU营收将达到4亿美元，年底将突破10亿美元。