首页 > 科技未来 > 内容

NVIDIA的GPU交付周期大大缩短,连锁反应一触即发

发布于:2024-06-18 编辑:匿名 来源:网络

从上半年开始,NVIDIA的AI服务器GPU(尤其是H)就一直供不应求,这种情况一直持续到今天。

究其原因,问题出在生产工艺上,这主要涉及台积电的先进工艺和封装能力,尤其是CoWoS封装。

市场上拥有如此先进封装量产能力的厂商并不多,台积电也没有预料到市场对Nvidia GPU的兴趣。

需求增长如此爆炸性,以至于今年第二季度开始大规模扩大CoWoS产能。

近期,市场传来好消息。

瑞银最新报告显示,英伟达已将AI GPU的交付周期从年底的8至11个月大幅缩短至目前的3至4个月。

这对于 Nvidia 客户来说非常好。

01 CoWoS 封装能力是关键。

交货时间的缩短表明台积电扩大的CoWoS封装产能开始释放。

据悉,台积电将在年底前将相关产能较年中水平提高一倍。

从目前的情况来看,台积电及其合作伙伴的CoWoS产能扩张进展快于预期,使得以H为代表的高性能GPU的交付时间显着缩短。

业内人士分析,今年7月至年底,台积电积极调整CoWoS封装产能,逐步扩大并稳定量产。

去年12月,台积电CoWoS月产能增至14,000至15,000片。

尽管台积电正在积极扩产,但这家公司的产能仍然无法满足市场需求。

因此,Nvidia在2018年向台积电以外的专业封测代工厂(OSAT)寻求帮助,主要包括日月光(ASE)和Amkor。

其中,安立已于今年第四季度开始提供相关产能,日月光硅品也于今年第一季度开始提供CoWoS封装产能。

2020年,AI芯片先进封装产能仍将供不应求。

台积电、日月光、Amkor、Power Technologies、KYEC等专业封装测试代工厂今年将扩大资本支出,部署先进封装产能。

按照台积电的扩产节奏,预计到今年第四季度,晶圆代工厂龙头CoWoS月产能将大幅扩容至33,000至35,000片。

今年,日月光的资本支出将同比增长40%至50%,其中65%的投资将用于封装,尤其是先进封装项目。

日月光投资控股首席运营官吴天宇表示,今年先进封装测试营收占比将会更高,AI相关的先进封装营收将翻倍,今年相关营收将增加至少2.5亿美元。

PowerCheng也在扩大其先进封装产能。

公司董事长蔡笃空表示,下半年将积极扩大资本支出,预计规模达新台币1亿元。

力成主要部署扇出基板技术,并集成ASIC和HBM先进封装。

在AI用HBM内存方面,力成预计将于今年第四季度量产相关产品。

为了满足CoWoS封装后的晶圆测试需求,今年京元相关晶圆测试产能将扩大两倍。

02 竞争对手让事情变得更糟。

近年来,全球AI核心处理器市场几乎被NVIDIA GPU垄断。

此次,公司供货能力进一步提升。

对于竞争对手来说,这确实让事情变得更糟。

一些制造商的日子甚至更难过。

尤其是一些与NVIDIA产品竞争的初创公司已经濒临破产。

据 The Information 统计,北美至少有 12 家 AI 芯片初创公司希望分一杯羹 NVIDIA 独家生成式 AI 算力红利。

这些初创公司中,成立时间最长的一家不超过8年,5家成立于2010年,创始成员中有4人有谷歌背景。

这12家AI芯片初创公司有的定位于训练,有的专注于推理,还有的更进一步,将产品定位于特定类型的AI模型。

推理是更受欢迎的选择,因为许多客户使用或微调已经训练过的模型,而不是从头开始构建新模型。

AI 芯片初创公司 d-Matrix、Etched.ai、Extropic、SiMa.ai 和 Groq 正在专门为某些模型架构构建芯片,例如为 OpenAI 和 Anthropic 大型语言模型提供支持的 Transformer。

这些公司认为,专用芯片比 Nvidia、Cerebras、Lightmatter、Rain AI、Tenstorrent 等通用芯片更快、更高效。

一些初创公司也在开发新的 GPU 技术和产品,包括专用 AI 加速器和针对特定场景优化的定制芯片。

具体应用。

如果这些初创公司的技术被证明优于老牌公司,它们可能会成为颠覆者。

但从过去几年的技术和产品发展来看,短时间内颠覆英伟达的产品和生态系统难度很大。

它非常大,很多公司已经无法维持。

由于他们开发的新技术、新产品很难在市场上销售,资金链非常紧张。

以英国的 Graphcore 为例,该公司正在考虑将其出售给外国买家。

据媒体报道,Graphcore 一直在与主要科技公司进行谈判,寻求资金来弥补日益增长的资金缺口。

2016 年,Graphcore 表示,在销售额下降 46%、亏损增加后,该公司需要新的资金。

03 中国市场的紧迫感日益增强。

目前,全球AI市场最先进、使用最多的GPU是H。

然而,该产品在庞大的中国大陆市场很难实现大规模销售。

对于英伟达来说,解决产能问题才能获得更多订单。

对于中国大陆市场来说,全球市场GPU供应量的增加将进一步增加本土AI服务器和应用企业的紧迫感,因为全球AI应用水平将随着GPU供应量的大幅增加而进步。

增加。

当像H这样的主芯片供应有限时,中国市场必须另谋出路,确保本土市场的AI服务器系统和应用水平不落后。

A、H芯片被禁后,NVIDIA为中国大陆市场提供了新的解决方案——H20、L20和L2。

然而,在目前的情况下,中国客户愿意大规模采用这些降级版的英伟达AI芯片吗? 据报道,阿里巴巴、腾讯等主要互联网公司自今年11月以来一直在测试降级版的Nvidia芯片。

这些中国公司已向英伟达表示,他们计划在 2020 年订购的芯片数量将大幅低于原计划。

测试人员强调,与常规 Nvidia GPU 相比,需要更多的 H20 芯片来抵消性能差异,从而导致费用大幅增加。

基于此,中国设计和制造的相关芯片对买家更具吸引力,阿里巴巴和腾讯等公司正在将更多订单转移给本土芯片供应商。

这种购买行为的转变在百度和字节跳动等其他主要芯片买家中也很明显。

据TrendForce统计,中国云计算企业使用的高端AI芯片约80%来自Nvidia,但未来五年这一比例可能下降至50%至60%。

与此同时,百度、阿里巴巴等中国CSP也在积极投资自主研发的AI芯片。

百度于2018年推出首款自研AI芯片昆仑芯,2016年推出第二代,计划2018年推出第三代。

在收购中天微、成立平头哥之后,阿里巴巴也开始设计AI芯片,其代表产品是含光。

虽然T-Head最初与外部公司合作进行ASIC芯片设计,但从今年开始,阿里巴巴将主要依靠内部资源来加强其下一代ASIC芯片设计,特别是阿里云的AI基础设施。

近年来,华为、寒武纪、天枢智能芯片等中国本土企业也致力于高性能AI芯片的研究,产品能力不断升级。

以华为Ascend为例。

该芯片采用7nm工艺,集成了超过1亿个晶体管。

可提供TFLOPS的FP16计算速度或TOPS的INT8计算能力,略高于NVIDIA A的FP16计算速度(TFLOPS,不含NVIDIA稀疏计算能力)。

技术)。

04 AI服务器生产及代工商机 从目前的发展情况来看,2020年,AI服务器及相关系统将加快组装、生产和应用的步伐。

TrendForce认为,2019年全球AI服务器数量将突破1万台(包括采用高端GPU的AI训练服务器,以及采用中低端GPU、FPGA、ASIC的AI推理服务器),同比增长40%,将为相关芯片和电子制造代工企业(EMS)带来更多商机,特别是台湾和中国大陆相关厂商有更多可挖掘的市场空间。

目前,各大云服务提供商都在竞相部署LLM和生成式AI应用,比如谷歌的Gemini,亚马逊也在培训新的LLM。

预计中小型语言模型将是今年新兴的竞争领域,更多定制化、计算高效的模型将陆续出现,如Llama-2、微软Phi-2、谷歌Gemini Nano 2、随着Nvidia GPU供应能力的增加,这些AI应用推向市场的速度将会加快,相关服务器生产和代工的需求也会增加。

近期,台湾AI服务器供应链密切关注AI芯片供应情况的变化。

供应链消息人士称,鸿海是HGX、DGX等NVIDIA主板和服务器平台的主要供应商。

市场占有率超过70%,很多产品甚至是独家供应。

鸿海董事长刘扬伟此前公开表示,鸿海的AI服务器业务接单情况非常好。

广达也对今年AI服务器出货量持乐观态度。

公司预计,如果AI芯片供应缓解,AI服务器出货量最早将从5月份开始大幅增长,下半年将进入出货爆发期。

今年的AI服务器收入增长将是两位数百分比。

据悉,纬创掌握了Nvidia CoWoS AI芯片基板订单的85%,也是AMD和Intel AI芯片模块和基板的最大供应商。

纬创资通表示,今年人工智能相关收入增长将达到三位数百分比。

在中国大陆,AI服务器出货量也在快速增长。

据中商产业研究院发布的《年中国服务器行业需求预测及发展趋势前瞻报告》数据显示,2018年AI服务器市场出货量约28.4万台,同比增长25.66%,全年出货量约35.4万台。

中商产业研究院分析师预测,2020年中国大陆AI服务器出货量将达到42.1万台。

从全球市场来看,前10大AI服务器厂商中,中国大陆厂商占据4席。

其中,浪潮信息是本土最大的AI服务器厂商。

在中国大陆市场,AI服务器市场高度集中。

排名前三的厂商分别是浪潮信息、宁昌和华为。

NVIDIA的GPU交付周期大大缩短,连锁反应一触即发

这三家公司的市场份额合计达到70.40%。

此外,H3C的新品也值得关注。

浪潮的代表产品是NFM6,它是专为超大规模数据中心开发的NVLink AI服务器。

它支持 2 个 Intel Ice Lake CPU 和 8 个 NVIDIA AGPU。

单机可提供5PFlops的AI计算性能。

对比核心硬件,NFM6采用了NVIDIA中国最新版芯片A,在浮点运算能力、显存带宽、显存容量等性能指标上与高级计算芯片A基本相同。

主要区别在于芯片的数据传输速度,约为A的三分之二。

华为的AI服务器集成了自研的加速卡和Intel CPU。

代表产品是Atlas推理服务器系列,有型号、华为Ascend芯片。

该产品最大算力可达2.24 PFLOPS FP16。

新H3C的AI服务器可以满足各种训练负载需求。

代表产品包括RG5、RG5、RG5等,可以满足不同的训练负载需求,满足大、小规模推理/训练任务。

在软件层面,公司通过H3A3奥飞AI/HPC一体化管理平台,将AI运行效率提升约32%。

05 结论 2020年,无论是AI芯片提供商还是AI服务器厂商和OEM厂商都将迎来更广阔的商机。

在芯片方面,随着人工智能GPU的普及,英伟达赚了很多钱。

制造方面,以台积电为代表的晶圆代工厂和封测厂大力拓展先进封装产能,今年将获得回报。

在AI服务器生产和代工方面,相关厂商拥有无限商机。

一般来说,通用服务器的价格为每台数千美元,而AI服务器的价格达到每台10万至15万美元。

价格上涨了近20倍。

在供过于求的时候,这么高的价格可能还不够。

拿货。

高端AI服务器的价格更加夸张。

据悉,搭载NVIDIA A的AI服务器价格已从1万元/台上涨至1万元/台以上,搭载8H的AI服务器价格已上涨至1万元/台。

【本文由投资界合作伙伴微信公众号授权:半导体产业纵横。

本平台仅提供信息存储服务。

】如有任何疑问,请联系投资界()。

NVIDIA的GPU交付周期大大缩短,连锁反应一触即发

站长声明

版权声明:本文内容由互联网用户自发贡献,本站不拥有所有权,不承担相关法律责任。如果发现本站有涉嫌抄袭的内容,欢迎发送邮件 举报,并提供相关证据,一经查实,本站将立刻删除涉嫌侵权内容。

标签:

相关文章

  • 投资界24小时- 快手 正面挑衅字节跳动;瑞幸的欺诈行为比揭露的22亿更严重;光大控股新基金启动,初始规模100亿

    投资界24小时- 快手 正面挑衅字节跳动;瑞幸的欺诈行为比揭露的22亿更严重;光大控股新基金启动,初始规模100亿

    延伸阅读时间:2020年4月22日星期三重要消息快手这笔新投资直接挑衅字节跳动快手,字节跳动再战。 近两年,除了业务上的竞争,快手与字节跳动在投资上也展开了激烈的较量。 最典型的例子就是去年的知乎。 当时快手和字节跳动都想拿下知乎,双方进行了多轮竞价。 快手甚至下达

    06-18

  • “村”人涌向北交所

    “村”人涌向北交所

    作者|徐明辉编辑|六耳源|直达北交所 从北京西二旗地铁站出来,距离向南约两公里,一座灰白色的五层楼突然出现出现在你面前。 。 这就是生物医药园区,中关村各个园区中最不起眼的一个。 就像一座“寂静”的老北京四合院,园区内听不到任何喧闹声,也看不到显眼的企业标志—

    06-17

  • “奥莎智能”完成A轮融资,国易资本独家投资

    “奥莎智能”完成A轮融资,国易资本独家投资

    投资圈(ID:pedaily)8月8日消息,据36氪江苏报道,近日,上海奥莎智能科技有限公司(以下简称“奥莎智能”) “奥莎智能”)宣布完成A轮融资,本轮融资由国易资本独家投资,上海博和汉商律师事务所引入并担任全程法律顾问。 本轮融资将用于增强核心业务奥莎智能成立于2007年

    06-17

  • 张拓木加入创新工场担任首席数据科学家,曾是谷歌风投的技术合伙人

    张拓木加入创新工场担任首席数据科学家,曾是谷歌风投的技术合伙人

    据投资界5月14日消息,近日,知名硅谷风投公司谷歌风投(GV,前身为Google Ventures)谷技术合伙人、张拓木正式宣布加入创新工场。 作坊。 他将担任首席数据科学家,探索数据驱动的投资实践,以及人工智能和大数据的投资。   张拓木拥有北京大学数学学士学位和斯坦福大学统

    06-18

  • 拼多多扶持“徐闻模式”成效显着:进货价不降反升,“滞销果”变“丰果”

    拼多多扶持“徐闻模式”成效显着:进货价不降反升,“滞销果”变“丰果”

    广东徐闻,是中国大陆最南端也是中国最早感受到春天的小镇之一。 有着近百年的菠萝种植历史,是全国最大的菠萝产区,素有“菠萝海”之称。 火爆之前,严重依赖线下销售渠道的徐闻菠萝,因疫情影响,销售一度受阻。 2019年2月19日,在拼多多的带领下,一场助农直播专场在菠萝田

    06-18

  • 乔布斯喜爱的品牌三宅一生推出纸做的衣服

    乔布斯喜爱的品牌三宅一生推出纸做的衣服

    当一张巨大的和纸包裹你的身体时,你是穿着衣服还是衣服穿着你?目前,对这种服装设计高调的人不是山本耀司就是三宅一生。 继“一块布”、“一生褶”、“BAOBAO”系列之后,三宅一生三宅一生以今年为起点,向大众推出创新面料和设计灵感——“一张纸”。 身体用纸包裹,并用纸

    06-21

  • TCL电子:2020年营收509.5亿港元,同比增长40.2%

    TCL电子:2020年营收509.5亿港元,同比增长40.2%

    TCL电子发布的年报显示,全年营收5000万港元,同比增长40.2%;持续经营业务归属于母公司所有者的利润为18.5亿港元,扣除非盈利项目后归属于母公司净利润达10.5亿港元,同比增长25.1% 。

    06-17

  • 【24小时创业-本地生活】2024年5月11日

    【24小时创业-本地生活】2024年5月11日

    2024年5月11日头条大事一、叮咚麦菜推出“营养之选”标识,助力健康消费 叮咚麦菜已于近日正式上线“营养之选”分级标签成为首个实施该标签的自营即时电商平台。 该标签由上海市卫生健康委员会指导,上海市疾病预防控制中心制定。 旨在全面反映饮料中所含的糖、脂肪等成分,帮

    06-18

  • 糖纸公测丨与网球肘说再见——浅尝梅里克纳米筋膜枪

    糖纸公测丨与网球肘说再见——浅尝梅里克纳米筋膜枪

    本文,作者是体验者@Daredevil,首发于糖纸公测。 本产品由“小米有品”提供。 在越来越多的人关注自己健康的快节奏生活中,越来越多的人去健身房或者参加体育锻炼,如何在运动后更好的放松身体,达到最佳的运动效果是a 值得关注的问题。 作为网校队的一员,我对于放松肌肉这

    06-21

  • 抖音直播:10月9日起屏蔽第三方源产品

    抖音直播:10月9日起屏蔽第三方源产品

    8月26日创造头条抖音直播又有重大新规:9月6日起第三方链接需走通过星图下单,即可进入直播间购物车。 10月9日起,直播间购物车不再支持第三方来源的商品。 抖音商店平台的商品不受影响。

    06-18

  • 劢微机器人获数千万元A轮融资

    劢微机器人获数千万元A轮融资

    投资界(ID:pedaily)1月28日消息,据36氪报道,劢微机器人Multiway Robotics(简称“劢微机器人”)近期完成了梅花A轮融资创投领投数千万元A轮融资,Plug and Play跟投。 本轮融资将用于进一步的技术研发和市场开拓。 劢微 Robotics是一家致力于成为领先的现场智能物流解决

    06-18

  • 央行:2月末广义货币(M2)余额223.6万亿元,同比增长10.1%

    央行:2月末广义货币(M2)余额223.6万亿元,同比增长10.1%

    据央行官网显示,2月末,广义货币(M2)余额223.6万亿元,同比增长10.1%。 广义货币(M2)余额0.6万亿元,同比增长10.1%,增速分别比上月末和同期高0.7和1.3个百分点去年;狭义货币(M)余额59.35万亿元,同比增长7.4%,增速比上月末低7.3个百分点,比上年同期高2.6个百分点;流

    06-18