燕麦饮料如何改变地球这家公司要重新定义“牛奶”
06-21
从上半年开始，NVIDIA的AI服务器GPU（尤其是H）就一直供不应求，这种情况一直持续到今天。
究其原因，问题出在生产工艺上，这主要涉及台积电的先进工艺和封装能力，尤其是CoWoS封装。
市场上拥有如此先进封装量产能力的厂商并不多，台积电也没有预料到市场对Nvidia GPU的兴趣。
需求增长如此爆炸性，以至于今年第二季度开始大规模扩大CoWoS产能。
近期，市场传来好消息。
瑞银最新报告显示，英伟达已将AI GPU的交付周期从年底的8至11个月大幅缩短至目前的3至4个月。
这对于 Nvidia 客户来说非常好。
01 CoWoS 封装能力是关键。
交货时间的缩短表明台积电扩大的CoWoS封装产能开始释放。
据悉，台积电将在年底前将相关产能较年中水平提高一倍。
从目前的情况来看，台积电及其合作伙伴的CoWoS产能扩张进展快于预期，使得以H为代表的高性能GPU的交付时间显着缩短。
业内人士分析，今年7月至年底，台积电积极调整CoWoS封装产能，逐步扩大并稳定量产。
去年12月，台积电CoWoS月产能增至14,000至15,000片。
尽管台积电正在积极扩产，但这家公司的产能仍然无法满足市场需求。
因此，Nvidia在2018年向台积电以外的专业封测代工厂（OSAT）寻求帮助，主要包括日月光（ASE）和Amkor。
其中，安立已于今年第四季度开始提供相关产能，日月光硅品也于今年第一季度开始提供CoWoS封装产能。
2020年，AI芯片先进封装产能仍将供不应求。
台积电、日月光、Amkor、Power Technologies、KYEC等专业封装测试代工厂今年将扩大资本支出，部署先进封装产能。
按照台积电的扩产节奏，预计到今年第四季度，晶圆代工厂龙头CoWoS月产能将大幅扩容至33,000至35,000片。
今年，日月光的资本支出将同比增长40%至50%，其中65%的投资将用于封装，尤其是先进封装项目。
日月光投资控股首席运营官吴天宇表示，今年先进封装测试营收占比将会更高，AI相关的先进封装营收将翻倍，今年相关营收将增加至少2.5亿美元。
PowerCheng也在扩大其先进封装产能。
公司董事长蔡笃空表示，下半年将积极扩大资本支出，预计规模达新台币1亿元。
力成主要部署扇出基板技术，并集成ASIC和HBM先进封装。
在AI用HBM内存方面，力成预计将于今年第四季度量产相关产品。
为了满足CoWoS封装后的晶圆测试需求，今年京元相关晶圆测试产能将扩大两倍。
02 竞争对手让事情变得更糟。
近年来，全球AI核心处理器市场几乎被NVIDIA GPU垄断。
此次，公司供货能力进一步提升。
对于竞争对手来说，这确实让事情变得更糟。
一些制造商的日子甚至更难过。
尤其是一些与NVIDIA产品竞争的初创公司已经濒临破产。
据 The Information 统计，北美至少有 12 家 AI 芯片初创公司希望分一杯羹 NVIDIA 独家生成式 AI 算力红利。
这些初创公司中，成立时间最长的一家不超过8年，5家成立于2010年，创始成员中有4人有谷歌背景。
这12家AI芯片初创公司有的定位于训练，有的专注于推理，还有的更进一步，将产品定位于特定类型的AI模型。
推理是更受欢迎的选择，因为许多客户使用或微调已经训练过的模型，而不是从头开始构建新模型。
AI 芯片初创公司 d-Matrix、Etched.ai、Extropic、SiMa.ai 和 Groq 正在专门为某些模型架构构建芯片，例如为 OpenAI 和 Anthropic 大型语言模型提供支持的 Transformer。
这些公司认为，专用芯片比 Nvidia、Cerebras、Lightmatter、Rain AI、Tenstorrent 等通用芯片更快、更高效。
一些初创公司也在开发新的 GPU 技术和产品，包括专用 AI 加速器和针对特定场景优化的定制芯片。
具体应用。
如果这些初创公司的技术被证明优于老牌公司，它们可能会成为颠覆者。
但从过去几年的技术和产品发展来看，短时间内颠覆英伟达的产品和生态系统难度很大。
它非常大，很多公司已经无法维持。
由于他们开发的新技术、新产品很难在市场上销售，资金链非常紧张。
以英国的 Graphcore 为例，该公司正在考虑将其出售给外国买家。
据媒体报道，Graphcore 一直在与主要科技公司进行谈判，寻求资金来弥补日益增长的资金缺口。
2016 年，Graphcore 表示，在销售额下降 46%、亏损增加后，该公司需要新的资金。
03 中国市场的紧迫感日益增强。
目前，全球AI市场最先进、使用最多的GPU是H。
然而，该产品在庞大的中国大陆市场很难实现大规模销售。
对于英伟达来说，解决产能问题才能获得更多订单。
对于中国大陆市场来说，全球市场GPU供应量的增加将进一步增加本土AI服务器和应用企业的紧迫感，因为全球AI应用水平将随着GPU供应量的大幅增加而进步。
增加。
当像H这样的主芯片供应有限时，中国市场必须另谋出路，确保本土市场的AI服务器系统和应用水平不落后。
A、H芯片被禁后，NVIDIA为中国大陆市场提供了新的解决方案——H20、L20和L2。
然而，在目前的情况下，中国客户愿意大规模采用这些降级版的英伟达AI芯片吗？ 据报道，阿里巴巴、腾讯等主要互联网公司自今年11月以来一直在测试降级版的Nvidia芯片。
这些中国公司已向英伟达表示，他们计划在 2020 年订购的芯片数量将大幅低于原计划。
测试人员强调，与常规 Nvidia GPU 相比，需要更多的 H20 芯片来抵消性能差异，从而导致费用大幅增加。
基于此，中国设计和制造的相关芯片对买家更具吸引力，阿里巴巴和腾讯等公司正在将更多订单转移给本土芯片供应商。
这种购买行为的转变在百度和字节跳动等其他主要芯片买家中也很明显。
据TrendForce统计，中国云计算企业使用的高端AI芯片约80%来自Nvidia，但未来五年这一比例可能下降至50%至60%。
与此同时，百度、阿里巴巴等中国CSP也在积极投资自主研发的AI芯片。
百度于2018年推出首款自研AI芯片昆仑芯，2016年推出第二代，计划2018年推出第三代。
在收购中天微、成立平头哥之后，阿里巴巴也开始设计AI芯片，其代表产品是含光。
虽然T-Head最初与外部公司合作进行ASIC芯片设计，但从今年开始，阿里巴巴将主要依靠内部资源来加强其下一代ASIC芯片设计，特别是阿里云的AI基础设施。
近年来，华为、寒武纪、天枢智能芯片等中国本土企业也致力于高性能AI芯片的研究，产品能力不断升级。
以华为Ascend为例。
该芯片采用7nm工艺，集成了超过1亿个晶体管。
可提供TFLOPS的FP16计算速度或TOPS的INT8计算能力，略高于NVIDIA A的FP16计算速度（TFLOPS，不含NVIDIA稀疏计算能力）。
技术）。
04 AI服务器生产及代工商机 从目前的发展情况来看，2020年，AI服务器及相关系统将加快组装、生产和应用的步伐。
TrendForce认为，2019年全球AI服务器数量将突破1万台（包括采用高端GPU的AI训练服务器，以及采用中低端GPU、FPGA、ASIC的AI推理服务器），同比增长40%，将为相关芯片和电子制造代工企业（EMS）带来更多商机，特别是台湾和中国大陆相关厂商有更多可挖掘的市场空间。
目前，各大云服务提供商都在竞相部署LLM和生成式AI应用，比如谷歌的Gemini，亚马逊也在培训新的LLM。
预计中小型语言模型将是今年新兴的竞争领域，更多定制化、计算高效的模型将陆续出现，如Llama-2、微软Phi-2、谷歌Gemini Nano 2、随着Nvidia GPU供应能力的增加，这些AI应用推向市场的速度将会加快，相关服务器生产和代工的需求也会增加。
近期，台湾AI服务器供应链密切关注AI芯片供应情况的变化。
供应链消息人士称，鸿海是HGX、DGX等NVIDIA主板和服务器平台的主要供应商。
市场占有率超过70%，很多产品甚至是独家供应。
鸿海董事长刘扬伟此前公开表示，鸿海的AI服务器业务接单情况非常好。
广达也对今年AI服务器出货量持乐观态度。
公司预计，如果AI芯片供应缓解，AI服务器出货量最早将从5月份开始大幅增长，下半年将进入出货爆发期。
今年的AI服务器收入增长将是两位数百分比。
据悉，纬创掌握了Nvidia CoWoS AI芯片基板订单的85%，也是AMD和Intel AI芯片模块和基板的最大供应商。
纬创资通表示，今年人工智能相关收入增长将达到三位数百分比。
在中国大陆，AI服务器出货量也在快速增长。
据中商产业研究院发布的《年中国服务器行业需求预测及发展趋势前瞻报告》数据显示，2018年AI服务器市场出货量约28.4万台，同比增长25.66%，全年出货量约35.4万台。
中商产业研究院分析师预测，2020年中国大陆AI服务器出货量将达到42.1万台。
从全球市场来看，前10大AI服务器厂商中，中国大陆厂商占据4席。
其中，浪潮信息是本土最大的AI服务器厂商。
在中国大陆市场，AI服务器市场高度集中。
排名前三的厂商分别是浪潮信息、宁昌和华为。
这三家公司的市场份额合计达到70.40%。
此外，H3C的新品也值得关注。
浪潮的代表产品是NFM6，它是专为超大规模数据中心开发的NVLink AI服务器。
它支持 2 个 Intel Ice Lake CPU 和 8 个 NVIDIA AGPU。
单机可提供5PFlops的AI计算性能。
对比核心硬件，NFM6采用了NVIDIA中国最新版芯片A，在浮点运算能力、显存带宽、显存容量等性能指标上与高级计算芯片A基本相同。
主要区别在于芯片的数据传输速度，约为A的三分之二。
华为的AI服务器集成了自研的加速卡和Intel CPU。
代表产品是Atlas推理服务器系列，有型号、华为Ascend芯片。
该产品最大算力可达2.24 PFLOPS FP16。
新H3C的AI服务器可以满足各种训练负载需求。
代表产品包括RG5、RG5、RG5等，可以满足不同的训练负载需求，满足大、小规模推理/训练任务。
在软件层面，公司通过H3A3奥飞AI/HPC一体化管理平台，将AI运行效率提升约32%。
05 结论 2020年，无论是AI芯片提供商还是AI服务器厂商和OEM厂商都将迎来更广阔的商机。
在芯片方面，随着人工智能GPU的普及，英伟达赚了很多钱。
制造方面，以台积电为代表的晶圆代工厂和封测厂大力拓展先进封装产能，今年将获得回报。
在AI服务器生产和代工方面，相关厂商拥有无限商机。
一般来说，通用服务器的价格为每台数千美元，而AI服务器的价格达到每台10万至15万美元。
价格上涨了近20倍。
在供过于求的时候，这么高的价格可能还不够。
拿货。
高端AI服务器的价格更加夸张。
据悉，搭载NVIDIA A的AI服务器价格已从1万元/台上涨至1万元/台以上，搭载8H的AI服务器价格已上涨至1万元/台。
【本文由投资界合作伙伴微信公众号授权：半导体产业纵横。
本平台仅提供信息存储服务。
】如有任何疑问，请联系投资界（）。
版权声明：本文内容由互联网用户自发贡献，本站不拥有所有权，不承担相关法律责任。如果发现本站有涉嫌抄袭的内容，欢迎发送邮件 举报，并提供相关证据，一经查实，本站将立刻删除涉嫌侵权内容。
标签：
相关文章
06-21
06-18
06-17
06-18
06-21
06-17
06-18
最新文章
Android旗舰之王的过去与未来
智能手表不被开发、AR眼镜被推迟，Meta的产品经历了一波三折
为什么Cybertruck是特斯拉史上最难造的车？
更新鸿蒙3后，文杰允许你在车里做PPT了
新起亚K3试驾体验：追求“性价比”，韩系汽车仍不想放弃
阿维塔15登场！汽车配备了增程动力，理想情况下会迎来新的对手吗？
马斯克宣布创建 ChatGPT 竞争对手！ OpenAI的CEO给他泼了冷水， GPT-5可能会发生巨大变化
骁龙无处不在，是平台也是生态