首页 > 科技领域 > 内容

突破冯诺依曼瓶颈,内存计算最终会爆发吗?

发布于:2024-06-08 编辑:匿名 来源:网络

JOHNVONNEUMANN 的原始计算机架构具有独立的逻辑和内存,多年来一直运行良好。

但一些公司认为是时候做出改变了。

近年来,向更多并行处理的转变以及神经网络规模的急剧增加意味着处理器需要更快地从内存中访问更多数据。

然而,“DRAM 和处理器之间的性能差距比以往任何时候都更大,”韩国科学技术院 3D 内存芯片专家、IEEE 院士 Joungho Kim 表示。

冯·诺依曼架构已成为冯·诺依曼瓶颈。

相反,如果至少有一些处理发生在内存中怎么办?这意味着需要在芯片之间移动的数据更少,并且可以节省能源。

这不是一个新的想法。

但它的时刻可能终于到来了。

去年,全球最大的动态随机存取存储器(DRAM)制造商三星开始引入内存处理(PIM)技术。

其首款 PIM 产品于 2 月推出,将专注于人工智能的计算核心集成到其 Aquabolt-XL 高带宽内存中。

HBM 是一种围绕一些顶级 AI 加速器芯片构建的专用 DRAM。

时任三星内存业务部门高级副总裁的 IEEE 院士 Nam Sung Kim 表示,新内存旨在“直接替代”普通 HBM 芯片。

去年8月,三星公布了合作伙伴系统的测试结果。

当与 Xilinx Virtex Ultrascale+ (Alveo) AI 加速器结合使用时,PIM 技术可为语音识别神经网络提供近 2.5 倍的性能提升和 62% 的能耗降低。

三星一直在提供集成到当前一代高带宽 DRAM HBM2 中的技术样本。

它还正在为移动设备中使用的下一代 HBM3 和低功耗 DRAM 开发 PIM。

它预计将与 JEDEC 合作,在今年上半年最终确定后一个标准。

有很多方法可以为存储芯片添加计算智能。

三星选择了快速而简单的设计。

HBM 由一堆 DRAM 芯片组成,这些芯片通过称为硅通孔 (TSV) 的互连垂直连接。

存储芯片堆栈位于与处理器连接的逻辑芯片的顶部。

一些内存处理项目 第三大 DRAM 制造商美光科技表示,它没有内存处理产品。

然而,2019年,它收购了人工智能技术初创公司Fwdnxt,目标是开发“让内存和计算更紧密结合的创新”。

NeuroBlade 这家以色列初创公司开发带有集成处理核心的内存,旨在加速数据分析中的查询。

Rambus DRAM Interface Technologies 的工程师对内存处理 DRAM 进行了探索性设计,重点是降低高带宽内存 (HBM) 的功耗。

全球最大的 DRAM 制造商三星正在提供集成 AI 计算核心的 Aquabolt-XL。

它还开发了用于内存模块的人工智能加速器,并致力于人工智能加速 DRAM 的标准化。

第二大 DRAM 制造商 SK Hynix 和普渡大学的工程师于 2016 年发布了人工智能加速 HBMDRAM Newton 的研究结果,但该公司决定不将其商业化,而是寻求标准 DRAM 的 PIM。

堆栈中最高的数据带宽位于每个芯片内,其次是 TSV,最后是与处理器的连接。

因此三星选择将处理放在 DRAM 芯片上,以利用那里的高带宽。

计算单元旨在执行最常见的神经网络计算,称为乘法和累加,仅此而已。

其他设计已将AI逻辑放置在接口芯片上或使用更复杂的处理核心。

三星的两个最大竞争对手 SK 海力士和美光科技尚未准备好为 HBM 实施 PIM,尽管它们已经实施了所有其他类型的内存处理。

韩国利川第二大DRAM供应商SK海力士正在多角度探索PIM。

该公司副总裁兼内存解决方案产品开发主管 Il Park 表示,他们目前正在标准 DRAM 芯片中追求 PIM,而不是 HBM。

可能更有可能被客户采用。

对于SK海力士来说,HBMPIM更多的是中长期的可能性。

当客户尝试将 HBM??DRAM 物理移动到离处理器更近的位置时,他们现在已经遇到了足够多的问题。

Park 表示:“该领域的许多专家不想在 HBM 已经很繁忙的情况下增加进一步的、相当显着的复杂性。

”也就是说,SK海力士的研究人员在2016年与普渡大学的计算机科学家合作,全面设计了一款名为Newton的HBM-PIM产品。

与三星的 Aquabolt-XL 一样,它将乘法和累加单元放置在存储体中,以利用芯片本身的高带宽。

突破冯诺依曼瓶颈,内存计算最终会爆发吗?

与此同时,Rambus 研究员兼杰出发明家 Steven Woo 表示,总部位于加利福尼亚州圣何塞的 Rambus 由于功耗问题而有动力探索 PIM。

该公司设计了处理器和存储器之间的接口,片上系统及其HBM存储器消耗的功率的三分之二用于在两个芯片之间水平传输数据。

在 HBM 内垂直传输数据使用的能量要少得多,因为距离要短得多。

“你可能需要水平移动 10 到 15 毫米才能将数据传回 SoC,”Woo 说。

“但垂直方向上,你谈论的是几百微米的数量级。

Rambus 的实验性 PIM 设计在 HBM 堆栈顶部添加了一个额外的硅层,用于 AI 计算。

为了避免 HBM 中央硅通孔的潜在带宽瓶颈,该设计添加了 TSV 以将存储库与 AI 层连接起来。

Woo 认为,在每个内存芯片中拥有专用的人工智能层将使内存制造商能够针对不同的应用定制内存。

PIM 采用的速度将取决于人工智能加速器制造商对其提供的内存带宽缓解的迫切程度。

的程度。

Technaanalysis Research 首席分析师鲍勃·奥唐纳 (Bob O'Donnell) 表示:“三星已经投入了大量资金。

[PIM] 是否会取得商业成功还有待观察。

突破冯诺依曼瓶颈,内存计算最终会爆发吗?

站长声明

版权声明:本文内容由互联网用户自发贡献,本站不拥有所有权,不承担相关法律责任。如果发现本站有涉嫌抄袭的内容,欢迎发送邮件 举报,并提供相关证据,一经查实,本站将立刻删除涉嫌侵权内容。

标签:

相关文章

  • 洲讯科技完成近亿元A轮融资

    洲讯科技完成近亿元A轮融资

    据投资界9月14日消息,5G射频滤波芯片设计制造公司洲讯科技宣布完成近亿元A轮融资。 本轮投资由景枫投资、南京麒麟创投、苏州积木资本、深圳长江基金等知名投资机构以及资深半导体投资人杨川、王新福共同完成。 据了解,本轮融资主要用于公司5G SAW/BAW射频滤波器芯片的研发及

    06-18

  • 积家宠物完成新一轮融资4000万元,宾盛金瑞基金投资

    积家宠物完成新一轮融资4000万元,宾盛金瑞基金投资

    投资圈(微信ID:pedaily)7月14日报道,积家宠物完成新一轮融资1万元,宾盛资本管理由国盛福瑞盛金瑞基金投资。 资吉嘉宠物集团(JIA PETS)是一家集宠物食品研发、制造于一体的综合性宠物产业集团。 通过近年来的快速发展,已成为全国排名前5的宠物企业之一,也是目前江苏省

    06-17

  • 达达集团发布达达优拣货众包拣货提升实时零售履约效率

    达达集团发布达达优拣货众包拣货提升实时零售履约效率

    7月15日,达达集团众包拣货管理数字化解决方案——达达优拣货正式发布。 达达优拣货在行业内首创“众包拣货”模式。 众包拣货员为超市、商超提供拣货服务,服务于门店的全渠道订单拣货、产品包装、订单配送等任务,帮助零售商实现拣货作业和拣货管理的数字化、产品化,提高全

    06-18

  • 好磨智行获近10亿元A轮融资,自动驾驶新独角兽诞生

    好磨智行获近10亿元A轮融资,自动驾驶新独角兽诞生

    投资圈(ID:pedaily)据12月22日消息,好磨智行完成近10亿元A轮融资。 本轮投资方为美团、高瓴创投、高通创投、首诚控股、九智资本等,募集资金主要用于自动驾驶研发投入和人才体系建设。 据了解,好墨智行本轮投后估值超过10亿美元,成为国内为数不多的实现智能驾驶大规模量

    06-18

  • 华大基因投资2亿元入股CPE元丰

    华大基因投资2亿元入股CPE元丰

    投资界(ID:pedaily)据7月4日消息,华大基因公告称,公司作为有限合伙人以自有资金出资2亿元参与认购等值厦门元丰股权投资基金合伙企业(有限合伙)的产权份额。 公司于2018年6月30日与目标基金普通合伙人厦门源丰投资有限公司(简称:CPE源丰)签署《厦门源峰股权投资基金

    06-17

  • 致茂电子携手群益能源,抢占新能源汽车测试市场氢燃料电池商机

    致茂电子携手群益能源,抢占新能源汽车测试市场氢燃料电池商机

    大型测量仪器测试公司「致茂电子」与燃料电池测试设备制造商「群益能源」,双方签署合作意向,正式进军氢燃料电池测试市场,进一步拓展新能源行业商机。 群益能源是燃料电池测试及自动化生产设备的专业制造商。 多年来深耕燃料电池领域。 其产品具有很强的竞争力。 结合致茂

    06-06

  • 浩然资本王泓清:帮助企业家实现梦想创业者身处高位更孤独

    浩然资本王泓清:帮助企业家实现梦想创业者身处高位更孤独

    日前,投资界对浩然资本合伙人和联合创始人王泓清进行了专访。 尽管浩然资本长期以来一直保持相对低调,但该机构投资的企业已为外界广泛熟知。 专注于中国市场的私募股权投资基金浩然资本自2016年成立以来,已完成对视康融医疗集团、中国脐带血库企业、步长药业、聚泰隆家居、

    06-18

  • 英特尔发起CXL开放合作联盟,推进新一代互连规范

    英特尔发起CXL开放合作联盟,推进新一代互连规范

    英特尔发起CXL开放合作联盟,推动新一代互连规范。 2020年3月13日,英特尔携手阿里巴巴、思科、戴尔EMC、Facebook、谷歌、HPE、华为和微软宣布成立Compute Express Link(CXL)开放合作联盟,旨在共同开发CXL开放互连技术并制定相应规范,推动新兴应用模式的性能突破,同时支

    06-06

  • 《2024年人工智能指数报告》系列文章一:概述

    《2024年人工智能指数报告》系列文章一:概述

    报告要点包括:人工智能在特定领域已达到或超越人类水平,但在更高级别的任务中仍存在局限性;业界在AI研究方面持续领先,每年发布的机器学习模型数量远超学术界;人工智能前沿模型开发成本大幅上升,表明人工智能发展面临经济挑战;美国引领顶级人工智能模型的发展;大语言模

    06-18

  • 灵明光子完成数亿元C轮融资,美团龙猪领投

    灵明光子完成数亿元C轮融资,美团龙猪领投

    4月11日消息,全球领先的新一代3D传感器芯片服务商灵明光子完成数亿元C轮融资。 C轮融资,由美团龙猪领投,老股东昆仲资本、高榕资本持续加码,广源资本担任独家投资方。 融资完成后,公司将加速产品量产,并持续投入先进领域的研发,保持技术领先。 灵明光子致力于利用全球领

    06-18

  • “平安家庭医疗”提供线上诊疗,春节平均服务超过8.6万人次

    “平安家庭医疗”提供线上诊疗,春节平均服务超过8.6万人次

    春节是中国人民最有特色的传统节日,也是家人最期待的团圆忙碌了一年之后。 但有这样一群白衣天使,一如既往地坚守岗位、保持专业、加班加点、通力协作,确保用户及时得到优质、高效、贴心的在线医疗服务。 据平安健康介绍,今年大年初一至初八,其“平安家庭医生”医疗健康服

    06-18

  • 中国汽车工业协会:芯片缺货预计二季度对中国汽车生产负面影响较一季度更大

    中国汽车工业协会:芯片缺货预计二季度对中国汽车生产负面影响较一季度更大

    据中汽协称,芯片缺货预计对中国汽车生产负面影响更大< titlesplit >二季度对中国汽车产量的影响大于一季度。

    06-18