首页 > 科技未来 > 内容

存储,战火重燃

发布于:2024-06-18 编辑:匿名 来源:网络

过去一年,全球科技公司纷纷抢购AI芯片,且仍供不应求。

Nvidia的产能无法增加,很大程度上是因为HBM(高带宽内存)不够。

每个 H 芯片使用 6 个 HBM。

目前,SK海力士和三星供应90%的HBM,其技术领先美光一代。

这给了韩国人前所未有的机会。

众所周知,内存市场一直保持着三足格局。

其中,韩国人占据主导地位:三星和SK海力士占据70%的市场份额。

不过,排名第三的美光仍然保持着20%以上的市场份额。

双方你来我往,各有胜负。

韩国民众对此普遍不满。

20世纪80年代,日本占领了90%以上的内存市场;这种压倒性的垄断是韩国半导体最大的梦想。

因此,年初韩国政府将HBM指定为国家战略技术,并对HBM供应商提供税收优惠,准备再次发起收费。

现在看来,我们距离实现韩国人的梦想只有一步之遥。

冯·诺依曼的“陷阱” 韩国人之所以能够再等一次机会,很大程度上要归功于“计算机之父”冯·诺依曼。

2008年,当世界上第一台计算机ENIAC即将问世时,冯·诺依曼和他的同事发表了一篇描述新计算机架构的论文。

最大的突破在于“存储与计算分离”——这是逻辑运算单元与存储单元第一次分离。

如果你把计算机内部想象成厨房,那么内存就是仓库管理员,逻辑芯片就是厨师。

最初,“煮菜”和“管理仓库”的任务实际上是由同一个芯片完成的; “存储与计算分离”的概念提出后,计算机开始分别设置多个“岗位”和“分开”。

招募人才。

” 分离的逻辑芯片最终演变成今天的CPU和GPU。

这样做的好处是显而易见的:存储和逻辑芯片各司其职,像流水线一样流畅,高效灵活。

它们很快就获得了第一代计算机设计师的青睐,并延续至今,经久不衰。

这就是现在著名的冯·诺依曼结构。

然而,“计算机之父”冯·诺依曼在设计这一架构时,不小心埋下了一颗“炸弹”。

冯·诺依曼架构如果想要效率最大化,其实有一个隐含的前提:即内存到逻辑芯片的数据传输速度必须大于或等于逻辑芯片的计算速度。

翻译成人类语言,仓库经理必须比厨师烹饪原料的速度更快地将原料运送到厨房。

然而现实中的科技树却走了完全相反的道路。

内存显然跟不上逻辑芯片的迭代速度。

以CPU为例,早在20世纪80年代,这种性能不平衡就已经不容忽视。

到了21世纪,CPU和内存之间的性能差距继续以每年50%的速度拉大。

这就导致决定芯片运算能力上限的并不是逻辑芯片的运算能力,而是存储器的传输速度。

厨师们严重爆满。

仓库管理员能运送多少食材,就决定了后厨房能生产多少菜品。

这就是现在通常所说的“记忆墙”,冯·诺依曼留下的陷阱。

上个世纪,有人试图改变现状,一批新的芯片架构问世。

然而,苍蝇很难撼动一棵树。

与围绕冯·诺依曼架构构建的生态帝国,包括编程语言、开发工具、操作系统等所带来的好处相比,那一点点的性能提升根本不值一提。

直到人工智能浪潮到来。

新火种 基于深度学习的人工智能对算力有着近乎病态的需求。

OpenAI曾经做过一个计算:从2016年的AlexNet模型到2016年谷歌的AlphaGo Zero,算力消耗足足增长了30万倍。

随着Transformer的出现,“力量就能创造奇迹”成为人工智能行业的底层逻辑,几乎所有科技公司都陷入了算力不足的困境。

作为阻碍算力进步的“罪魁祸首”,冯·诺依曼的架构很快被推到了风口浪尖。

AMD是最早意识到问题严重性的科技巨头之一。

为此,它采用了一种非常“简单粗暴”的解决方案——将存储器放置在离逻辑芯片更近的地方。

如果我把“仓库”建得离“后厨房”近一些,送货速度不是会提高吗? 但当时,AMD的计划有一个致命的缺陷。

过去,存储通常是通过插槽“插”在GPU封装之外,相当于在郊区建一个仓库。

不过,为了缩短两者之间的距离,AMD 计划将内存移至与 GPU 相同封装的同一载板上。

但载板面积非常有限,就像中心城市每一寸土地都弥足珍贵。

传统的存储器往往面积非常大,就像一个非常大的仓库,显然无法建在中心城区。

至此,HBM开始登上历史舞台:它采用了垂直堆叠小型DRAM芯片的方法。

我们可以将 HBM?? 视为一个高度为 12 层的超小型仓库。

由于仓库面积较小,所需空间大大减少,可以搬入中心城区。

同时从1层到12层每一层都可以存储数据,所以实际性能并没有缩水。

目前,HBM的表面积仅为传统存储器的6%。

这项新技术使得AMD的技术解决方案得以成功实施。

于是,AMD向太平洋彼岸的SK海力??士伸出了橄榄枝。

2016年,AMD推出GPU Fiji,在一块芯片载板上布置了4个HBM,震惊了业界。

高端显卡Radeon R9 Fury虽然从随后的市场表现来看,斐济是失败的,但并不妨碍HBM窥见成功之机,搅动春水。

少数人的游戏当全球科技公司开始押注人工智能时,突破“记忆墙”的HBM也趁机占据了时代的中心舞台。

然而,能够从HBM浪潮中抢走蛋糕的人却寥寥无几。

目前,HBM即将进入第四代,但牌桌上仍只有四人。

截至今年,仍有能力生产 HBM 的厂商只有 3 家:SK 海力士、三星和美光。

不幸的是,这种情况很可能会持续很长一段时间。

虽然三大巨头也垄断了传统内存,但当市场蓬勃发展时,二三线厂商也可以效仿。

但在HBM领域,其他厂商连饭都不能上桌,更别说有汤了。

技术门槛过高是造成这种情况的重要原因。

前面说过,HBM是一个高层小仓库;如何实现高层设计背后有很多学问。

目前业界采用的技术称为TSV(Through Silicon Via),是目前领先的垂直电气互连技术。

通过蚀刻和电镀,TSV 穿透堆叠的 DRAM 芯片,实现各层的通信互连。

可以想象为在建筑物中安装电梯。

由于HBM的面积如此之小,因此对TSV工艺的精度有极其严格的要求。

其操作难度就像用电钻在米粒上钻孔一样困难。

而且,HBM 并不只是需要“钻一个洞”:随着大楼越来越高,HBM 对 TSV 的需求也会相应增加。

三大巨头在TSV技术上的积累最为深厚,足以轻松甩掉这样的小厂,稳坐山巅。

第二个原因是HBM打破了传统内存IDM模式,需要依赖外部辅助。

它说什么并不重要。

IDM模式意味着从设计、制造到封装的一切都由内存制造商负责。

过去,三星等内存厂商之所以敢于发动价格战,正是因为他们掌握了整个制造工艺,可以最大程度地挤压利润空间。

但就 HBM 而言,设计和制造仍然是在内部完成的。

对于封装,我们必须依赖晶圆代工厂。

毕竟HBM不是独立的存储器,需要安装在逻辑芯片旁边。

这个过程涉及更精细的操作、更精密的设备、更昂贵的材料,只能求助于先进的封装技术。

目前只有台积电的先进封装技术符合标准,三大巨头都是其客户。

只是台积电的产能相当有限。

修士太多还不够,就连三大巨头都不够。

如果新玩家想加入这个游戏,就得看看台积电是否愿意带你一起去。

由于技术门槛极高,且依赖台积电的先进封装产能,HBM很可能成为少数人的游戏。

正是由于这些特点,HBM战争注定会与以往的内存战争有很大不同。

重塑游戏规则众所周知,传统内存的竞争往往围绕价格战展开。

存储,战火重燃

由于传统存储器是高度标准化的产品,不同公司之间的性能差距并不大。

通常,谁的价格较低,谁就能获得更多的订单。

但对于 HBM 来说,技术迭代更快的人就掌握了主动权。

由于HBM主要应用于AI芯片,其主要卖点是性能。

强大的人工智能芯片可以显着缩短模型训练的时间。

对于科技公司来说,只要能够尽快将大型模型推向市场,为什么不花更多的钱呢? 因此,这几年内存厂商不断涉足技术。

2016年,三星之所以能够在HBM市场超越SK海力士,正是因为它率先量产了新一代HBM 2,并且在技术上处于领先地位。

另一方面,抱住足够粗的大腿也很重要。

因为全球有能力生产AI芯片的科技公司屈指可数,而且高度依赖大客户。

过去几年,SK海力士、三星、美光围绕HBM的竞争,其实就是看谁的大腿更粗。

SK海力士率先出局,一亮相就与雄心勃勃的AMD绑在一起。

不幸的是,AMD的芯片销售不佳,这影响了SK海力士的HBM。

相比之下,三星颇为“鸡贼”。

凭借率先量产的HBM2,成功抢了NVIDIA的圈,反超了SK海力士。

然而2018年,SK海力士率先量产HBM 3,并成功吸引Nvidia加入其阵营。

如今全球抢购的AI芯片H采用的是SK海力士的HBM。

有了新大腿的加持,SK海力士彻底确立了“HBM一哥”的地位。

与韩国人相比,美光的运气最差,与英特尔纠缠不休。

2017年,美光和英特尔押注的是另一条技术路线。

经过几年的研发,美光意识到自己选择了错误的路线。

此时,美光已经落后韩国竞争对手两代人。

目前,SK海力士占HBM整体供应量的50%,隔壁的三星占40%,美光仅占10%。

在HBM业务的带动下,SK海力士去年第三季度内存市场份额飙升至34.3%,距离超越三星仅一步之遥。

要知道,三星在内存市场上一直处于领先地位已有30多年。

但拼迭代速度、拼大腿、新玩法,意味着更大的变数。

三大厂商目前看似分一二三,但实际上各有各的王牌,冰山一角正在慢慢浮现。

三巨头的王牌。

作为HBM的发明者和如今的第一名,SK海力士的王牌显然是其远胜的技术实力。

为了彻底杀死竞争对手,SK海力士准备直接颠覆HBM的设计思路。

它计划在2020年量产HBM 4,并准备将HBM直接安装在GPU之上,向真正的3D架构迈进。

也就是说,SK海力士计划将仓库直接建在厨房地板上。

乍一看,HBM 4的设计思路似乎并不令人惊奇。

毕竟HBM设计的初衷是为了缩短仓库和厨房之间的距离;所以干脆把仓库搬到楼上的厨房似乎是一个自然的选择。

然而,现实并非那么简单。

此前,各大内存厂商之所以没有采用这种设计,是因为无法解决散热问题:在GPU之上安装HBM后,数据传输速度确实更快,但芯片功耗也会增加显着,从而产生更多的热能。

如果热量不能及时散发,芯片的工作效率就会大大降低,导致性能损失,这与拆东墙补西墙颇为相似。

因此,如果想要实现HBM 4的设计,就必须找到更好的散热方案。

目前,SK海力士或已找到突破口;一旦成功实施,对于友商来说无疑是一次降维打击。

当然,SK海力士的模式也有缺陷——过于依赖台积电。

如前所述,HBM技术与台积电的先进封装有高度绑定。

但目前台积电的产能远远跟不上市场需求,这给三星留下了第二轮弯道超车的空间。

三星不仅是内存市场的量王,也是全球第二大晶圆代工厂。

台积电有,三星基本也有,包括先进封装,但水平稍差一些。

早在2009年,三星就推出了I-Cube技术来与台积电竞争,目前已经发展到第四代。

目前,三星的I-Cube技术明显逊色于台积电的CoWoS。

毕竟连三星自己也不用。

但现在台积电产能明显供不应求,I-Cube技术成为三星赢得业务的利器。

SK海力士的老合作伙伴AMD未能抵挡住“产能的诱惑”,改变了阵营。

据说英伟达也有兴趣试水。

毕竟台积电的先进封装产能增幅有限,采用三星将有助于分散供应风险。

韩国人每个人都有自己的策略。

美国人有什么样的桥梯? 说实话,到目前为止,美光在HBM战场上一直处于被动挨打的状态,一直没有恢复过来。

经过近几年的追赶,美光终于看到了先锋的背影,但也只能在韩国人身后“捡漏”。

看来我们距离朝鲜人民“统一国家”的理想仅一步之遥了。

然而,这显然是美国人不愿意看到的。

目前,HBM的主要客户大部分来自美国。

美光虽然落后,但未必会被彻底淘汰。

最新消息显示,Nvidia刚刚向美光订购了一批HBM 3。

此前,韩国人之所以能够在内存市场“百战百胜”,是因为竞争规则极其明确:争夺产能和成本。

内卷化一直是韩国人的“舒适区”。

毕竟,美式咖啡在他们的血管里流淌。

然而,HBM 是一个不太“东亚”的行业。

它面临着极其激烈的技术竞争,以及始终摇摆不定的大客户。

更多变数让韩国人无法牢牢占据铁王座。

更何况,另一位股东的神秘力量也在虎视眈眈。

漫漫长夜,韩国人却依然睡不着觉。

参考文章: [1] HBM 市场研究报告(.12),TrendForce [2] HBM 已成为高端 GPU 标准,充分受益于 AI 服务器需求增长,广发证券 [3] HBM 入门,Semiwiki [4] HBM将取代DDR,成为计算机内存? EET [5]HBM4 正在开发中,组织者着眼于更广泛的位接口,Anandtech [6]SK Hynix,三星对 HBM 领先地位的争夺将在人工智能热潮中升级,韩国经济日报 [7]AI 系统中的 HBM 问题,SemiEngineering [8 】 冯·诺依曼架构,CSDN [9] 性能困境:从冯·诺依曼瓶颈开始,机器的心脏 [10] HBM 推动 DRAM 加速从传统 2D 到 3D,方正证券 【本文由投资合伙人元川科技评论授权发表。

本平台仅提供信息存储服务。

】如有任何疑问,请联系投资界()。

存储,战火重燃

站长声明

版权声明:本文内容由互联网用户自发贡献,本站不拥有所有权,不承担相关法律责任。如果发现本站有涉嫌抄袭的内容,欢迎发送邮件 举报,并提供相关证据,一经查实,本站将立刻删除涉嫌侵权内容。

标签:

相关文章

  • 打造德国版“去哪儿”,Omio获新一轮1亿美元融资

    打造德国版“去哪儿”,Omio获新一轮1亿美元融资

    投资圈(ID:pedaily)8月21日消息,据36氪报道,Omio在德国完成1亿美元融资、新的和已有的投资者参与了本轮融资,但公司并未透露具体名单。 该公司之前的投资者包括Temasek、Kinnevik、高盛、NEA 和凯鹏华盈。 据了解,Omio是Naren Shaam于2008年创立的旅游交通预订平台,其

    06-18

  • “睿刀医疗”完成亿元A轮融资,德通资本投资

    “睿刀医疗”完成亿元A轮融资,德通资本投资

    投资社区(ID:pedaily)9月1日消息,据36氪报道,不可逆电穿孔技术公司——上海睿刀医疗科技有限公司已完成1亿元A轮融资。 投资方为德通资本,并与银行达成战略合作。 本轮融资将用于公司的产品研发、优化升级、适应症拓展及临床试验。 睿刀医疗成立于2001年,是一家专注于不

    06-18

  • 头部医美连锁联合丽哥获得数亿元D轮融资,大陈财智独家投资

    头部医美连锁联合丽哥获得数亿元D轮融资,大陈财智独家投资

    投资圈(ID:pedaily)据3月31日消息,顶级医美连锁联合丽格(北京)医疗美容投资连锁有限公司(以下简称“联合丽格”) )获得D轮融资,大辰财智独家投资数亿元。 本轮融资后,联合利格将进一步巩固领先地位,探索创新业务,引领美丽经济发展,更好地为经济内循环做出贡献。

    06-17

  • 北卡罗莱纳州农业技术州立大学与北卡罗莱纳州立大学合作

    北卡罗莱纳州农业技术州立大学与北卡罗莱纳州立大学合作

    Silicon Semiconductor 北卡罗莱纳州农业技术州立大学与北卡罗莱纳州立大学和南加州大学领导的区域创新中心合作,推出了大型-规模微电子共享项目,以桥接并加速实验室到晶圆厂的转型。 2016年,美国国防部拨款2.38亿美元在全国范围内建立涉及多个机构的八个中心,以促进经济增

    06-06

  • 米飞科技A轮融资过亿元,启明创投领投

    米飞科技A轮融资过亿元,启明创投领投

    投资圈(ID:pedaily)9月6日消息,近日,中国领先的半导体晶圆厂自动化设备公司米飞科技宣布完成A轮融资融资规模超亿元。 本轮融资由启明创投领投,金浦智能、宏业资本跟投。 本轮融资将用于扩大公司经营规模、加大研发投入、拓展海外市场。 米飞科技核心团队来自国内外一线

    06-17

  • 中国恒大:今年前四个月实现合同销售金额2213亿元,同比增长4%

    中国恒大:今年前四个月实现合同销售金额2213亿元,同比增长4%

    5月4日,中国恒大在香港联交所公告称,今年4月,集团物业实现合同销售额0.41亿元,同比增长4.5%;今年1-4月累计合同销售额1亿元,同比增长4.1%。

    06-18

  • 移动AR技术开发商时行科技获战略投资

    移动AR技术开发商时行科技获战略投资

    据投资界(ID:pedaily)1月25日消息,天眼查信息显示,杭州时行科技有限公司(以下简称:时行科技)发生战略投资注册资本、高级管理人员、投资者等多项工商变更,包括新增阿里巴巴(中国)网络技术有限公司为股东,持有16.67%股份,认购金额为40万元。 资料显示,时星科技是

    06-18

  • 酒店B2B预订平台好巧网获1.2亿元B+轮融资

    酒店B2B预订平台好巧网获1.2亿元B+轮融资

    据投资界2月21日消息,国际酒店资源整合与分销B2B平台好巧网近日宣布获得A轮融资。 合资公司获得国家中小企业发展基金与招商局资本投资1.2亿元B+轮融资。 据悉,本轮融资将主要用于增强技术实力、完善服务体系、引进更多人才。   好侨网成立于2007年,是一家专注于国际酒店

    06-17

  • 我快撑不住了,650亿的明星公司要破产了

    我快撑不住了,650亿的明星公司要破产了

    这个世界有时候真的很幽默。 2019年12月,一家名为SmileDirectClub(SDC)的美国公司上市,市值立即达到90亿美元(约合人民币1亿元)。 两位年龄均不足30岁的创始人也成为最年轻的亿万富翁。 SDC是一家通过互联网销售隐形牙套和牙齿矫正的公司。 它声称可以绕过牙医,显着降低

    06-17

  • 今天的  Redmi,像极了最初的那个小米

    今天的 Redmi,像极了最初的那个小米

    现在的红米很像当初的??小米。 在我眼里,对手只有一个,那就是荣耀。 在12月10日红米K30系列及AIoT智能新品发布会的采访环节中,刚刚上任小米中国区总裁的小米公司副总裁和红米品牌总经理卢伟冰并没有隐藏自己的挑战目标。 当然,对于卢伟冰来说,这次发布会恰逢红米品牌首款

    06-18

  • 金华女裤快手年销千万条,快手电商“金华裤”主题活动助力金华商户持续爆款

    金华女裤快手年销千万条,快手电商“金华裤”主题活动助力金华商户持续爆款

    浙江金华一直是女装行业知名在中国,金花女装凭借着高性价比的服装深受消费者的认可,而在细分品类中,金华女装休闲裤也凭借产地优势,不断向全国各地输送高品质的裤子。 近日,为进一步帮助金华产业带商家做好生意,快手电商聚焦当地裤业,推出“金华裤,超酷”产业带溯源活

    06-17

  • 梅赛德斯发布第一辆电动卡车,“司机友好卡车”上线

    梅赛德斯发布第一辆电动卡车,“司机友好卡车”上线

    穿越城市、跨越国家,卡车几乎无处不在。 无论货物大小,卡车都是最重要的货物运输方式。 目前,卡车几乎承担了内陆货物运输的80%以上。 仅在中国、欧盟、日本、美国和独联体国家,每年通过卡车运输的货物就超过6万亿吨。 那么,卡车又怎能错过电气化浪潮呢? ▲图片来自:IR

    06-21