首页 > 科技未来 > 内容

清华团队再获突破!开发出全球首个多阵列忆阻器集成存储计算系统,比GPU节能两个数量级

发布于:2024-06-18 编辑:匿名 来源:网络

很多小朋友可能不知道忆阻器是什么?在开始今天的话题之前,雷锋网小编先科普一下什么是忆阻器。

所谓忆阻器,全称记忆电阻(Memristor),是继电阻、电容、电感之后的第四种基本电路元件。

它表示磁通量与电荷之间的关系。

该元件的电阻会随着它的通过而变化。

电流量发生变化,即使电流停止,其电阻仍将保持先前的值。

直到收到反向电流才会被推回去,相当于说它能“记住”之前的电流量。

简而言之,忆阻器(memristor)在电源关闭后仍能“记忆”经过的电荷。

这一特性与神经突触的相似性使其能够自主学习。

潜在的。

因此,基于忆阻器的神经拟态计算系统可以为神经网络训练提供一种快速、节能的方法。

然而,图像识别模型之一的卷积神经网络尚未在使用忆阻器交叉阵列的硬件中完全实现。

不过,雷锋网近日获悉,清华大学微电子研究院、钱鹤、未来芯片技术高精尖创新中心、吴华强的教授团队和合作者学院在《自然》 研究论文报告了基于忆阻器阵列芯片的卷积网络的完整硬件实现。

他们提出使用高能效、高性能的均匀忆阻器交叉阵列来实现CNN。

该实现总共集成了8个PE,每个PE包含1个单元的忆阻器阵列,以提高并行计算效率。

此外,研究人员还提出了一种高效的混合训练方法,以适应设备缺陷并提高整个系统的性能。

研究人员构建了基于忆阻器的五层CNN来执行MNIST图像识别任务,识别准确率超过96%。

除了使用不同的卷积核对共享输入执行并行卷积之外,忆阻器阵列还复制多个相同的卷积核来并行处理不同的输入。

与当前最先进的图形处理单元(GPU)相比,基于忆阻器的CNN神经拟态系统的能效更高一个数量级,并且实验表明该系统可以扩展到大型网络,例如残差神经网络。

研究结果可能会带来基于忆阻器的非冯诺依曼硬件解决方案,用于深度神经网络和边缘计算,在处理卷积神经网络(CNN)时比图形处理器芯片更节能。

(GPU)高出两个数量级,极大地提高了计算设备的计算能力,以更小的功耗和更低的硬件成本成功完成复杂的计算。

第一个完全基于忆阻器的 CNN 硬件实现。

据介绍,目前国际忆阻器研究还停留在简单网络结构的验证,或者基于少量器件数据的模拟。

基于忆阻器阵列的完整硬件实现仍然存在许多挑战。

比如在器件方面,需要准备高度一致、可靠的阵列;在系统方面,忆阻器由于其工作原理而存在固有的缺陷(如器件之间的波动、器件电导停滞、电导状态漂移等),这会导致计算精度降低。

;在架构上,忆阻器阵列需要以串行滑动的方式连续采样计算多个输入块来实现卷积功能,无法与全连接结构的计算效率相匹配。

在这些研究成果的基础上,钱赫和吴华强团队逐步优化了材料和器件结构,制备出了高性能忆阻器阵列。

在设备端,研究成功实现了完整的五层 mCNN,用于执行 MNIST 手写数字图像识别任务。

优化的材料堆栈可在单晶体管单忆阻器 (1T1R) 阵列中实现可靠且一致的模拟开关行为。

使用本研究提出的混合训练机制后,实验在整个测试集上实现了 96.19% 的识别准确率。

mCNN 是使用混合训练方法获得的。

此外,该研究在三个并行忆阻器卷积器中复制了卷积核,从而将 mCNN 的延迟减少了大约 2/3。

本研究获得的高度集成的神经拟态系统弥补了基于忆阻器的卷积运算和全连接VMM之间的吞吐量差距,从而为大幅提高CNN效率提供了可行的解决方案。

从架构上讲,以前基于忆阻器的演示依赖于单个阵列,这主要是由于生成高度可重复的阵列面临巨大挑战。

清华团队再获突破!开发出全球首个多阵列忆阻器集成存储计算系统,比GPU节能两个数量级

忆阻器器件的易失性和不完美性被认为是神经形态计算应用的主要瓶颈。

本研究提出了一种适用于神经网络的基于忆阻器的灵活计算架构。

存储与计算集成系统架构忆阻器单元采用TiN/TaO_x/HfO_x/TiN材料堆叠。

通过调节电场和热量,它在增强(SET)和抑制(RESET)条件下都表现出连续的电导率调节能力。

该材料和制造工艺与传统的CMOS工艺兼容,使得忆阻器阵列可以轻松构建到晶圆的后端工艺中,以减少工艺变化并实现高再现性。

由此产生的交叉开关阵列在相同的编程条件下具有统一的模拟开关行为。

因此,多忆阻器阵列硬件系统是基于定制印刷电路板(PCB)和FPGA评估板(ZC,Xilinx)构建的。

在系统方面,该系统主要包含8个基于忆阻器的处理元件(PE)。

每个 PE 都集成了忆阻器单元阵列。

每个忆阻器都连接到晶体管的漏极侧,采用 1T1R 配置。

核心 PCB 子系统具有八个忆阻器阵列芯片,每个芯片都有 × 16 1T1R 单元。

水平方向总共有平行的字线和源极线,垂直方向总共有16条位线。

基于忆阻器的硬件系统具有可靠的多级导电状态。

该阵列表现出高度可重复的多级导电状态,成功证明了集成存储和计算架构的全硬件实现的可行性。

有什么优点?众所周知,CNN是最重要的深度神经网络之一,在图像识别、图像分割、目标检测等图像处理相关任务中发挥着关键作用。

CNN 的典型计算步骤需要大量的滑动卷积运算。

从这个方面来看,CNN需要支持并行乘法累加运算(MAC)的计算单元。

这需要重新设计传统的计算系统,以运行具有更高性能和更低能耗的 CNN。

这些计算系统包括通用应用平台(如GPU)、专用加速器等。

然而,计算效率的进一步提升最终受限于系统的冯诺依曼架构,其中内存和处理单元在物理上是分离的,导致大量的能源消耗和不同单元之间数据传输的高延迟。

相比之下,基于忆阻器的神经拟态计算可以提供存储数据的非冯诺依曼计算范式,从而消除数据迁移的成本。

忆阻器阵列直接使用欧姆定律进行加法运算,使用基尔霍夫定律进行乘法运算,从而实现并行内存MAC运算来模拟内存计算。

),并实现速度和能源效率的显着提高,并减少错误。

清华团队再获突破!开发出全球首个多阵列忆阻器集成存储计算系统,比GPU节能两个数量级

站长声明

版权声明:本文内容由互联网用户自发贡献,本站不拥有所有权,不承担相关法律责任。如果发现本站有涉嫌抄袭的内容,欢迎发送邮件 举报,并提供相关证据,一经查实,本站将立刻删除涉嫌侵权内容。

标签:

相关文章

  • 投资界24小时- 快手 正面挑衅字节跳动;瑞幸的欺诈行为比揭露的22亿更严重;光大控股新基金启动,初始规模100亿

    投资界24小时- 快手 正面挑衅字节跳动;瑞幸的欺诈行为比揭露的22亿更严重;光大控股新基金启动,初始规模100亿

    延伸阅读时间:2020年4月22日星期三重要消息快手这笔新投资直接挑衅字节跳动快手,字节跳动再战。 近两年,除了业务上的竞争,快手与字节跳动在投资上也展开了激烈的较量。 最典型的例子就是去年的知乎。 当时快手和字节跳动都想拿下知乎,双方进行了多轮竞价。 快手甚至下达

    06-18

  • “村”人涌向北交所

    “村”人涌向北交所

    作者|徐明辉编辑|六耳源|直达北交所 从北京西二旗地铁站出来,距离向南约两公里,一座灰白色的五层楼突然出现出现在你面前。 。 这就是生物医药园区,中关村各个园区中最不起眼的一个。 就像一座“寂静”的老北京四合院,园区内听不到任何喧闹声,也看不到显眼的企业标志—

    06-17

  • “奥莎智能”完成A轮融资,国易资本独家投资

    “奥莎智能”完成A轮融资,国易资本独家投资

    投资圈(ID:pedaily)8月8日消息,据36氪江苏报道,近日,上海奥莎智能科技有限公司(以下简称“奥莎智能”) “奥莎智能”)宣布完成A轮融资,本轮融资由国易资本独家投资,上海博和汉商律师事务所引入并担任全程法律顾问。 本轮融资将用于增强核心业务奥莎智能成立于2007年

    06-17

  • 张拓木加入创新工场担任首席数据科学家,曾是谷歌风投的技术合伙人

    张拓木加入创新工场担任首席数据科学家,曾是谷歌风投的技术合伙人

    据投资界5月14日消息,近日,知名硅谷风投公司谷歌风投(GV,前身为Google Ventures)谷技术合伙人、张拓木正式宣布加入创新工场。 作坊。 他将担任首席数据科学家,探索数据驱动的投资实践,以及人工智能和大数据的投资。   张拓木拥有北京大学数学学士学位和斯坦福大学统

    06-18

  • 拼多多扶持“徐闻模式”成效显着:进货价不降反升,“滞销果”变“丰果”

    拼多多扶持“徐闻模式”成效显着:进货价不降反升,“滞销果”变“丰果”

    广东徐闻,是中国大陆最南端也是中国最早感受到春天的小镇之一。 有着近百年的菠萝种植历史,是全国最大的菠萝产区,素有“菠萝海”之称。 火爆之前,严重依赖线下销售渠道的徐闻菠萝,因疫情影响,销售一度受阻。 2019年2月19日,在拼多多的带领下,一场助农直播专场在菠萝田

    06-18

  • 乔布斯喜爱的品牌三宅一生推出纸做的衣服

    乔布斯喜爱的品牌三宅一生推出纸做的衣服

    当一张巨大的和纸包裹你的身体时,你是穿着衣服还是衣服穿着你?目前,对这种服装设计高调的人不是山本耀司就是三宅一生。 继“一块布”、“一生褶”、“BAOBAO”系列之后,三宅一生三宅一生以今年为起点,向大众推出创新面料和设计灵感——“一张纸”。 身体用纸包裹,并用纸

    06-21

  • TCL电子:2020年营收509.5亿港元,同比增长40.2%

    TCL电子:2020年营收509.5亿港元,同比增长40.2%

    TCL电子发布的年报显示,全年营收5000万港元,同比增长40.2%;持续经营业务归属于母公司所有者的利润为18.5亿港元,扣除非盈利项目后归属于母公司净利润达10.5亿港元,同比增长25.1% 。

    06-17

  • 【24小时创业-本地生活】2024年5月11日

    【24小时创业-本地生活】2024年5月11日

    2024年5月11日头条大事一、叮咚麦菜推出“营养之选”标识,助力健康消费 叮咚麦菜已于近日正式上线“营养之选”分级标签成为首个实施该标签的自营即时电商平台。 该标签由上海市卫生健康委员会指导,上海市疾病预防控制中心制定。 旨在全面反映饮料中所含的糖、脂肪等成分,帮

    06-18

  • 糖纸公测丨与网球肘说再见——浅尝梅里克纳米筋膜枪

    糖纸公测丨与网球肘说再见——浅尝梅里克纳米筋膜枪

    本文,作者是体验者@Daredevil,首发于糖纸公测。 本产品由“小米有品”提供。 在越来越多的人关注自己健康的快节奏生活中,越来越多的人去健身房或者参加体育锻炼,如何在运动后更好的放松身体,达到最佳的运动效果是a 值得关注的问题。 作为网校队的一员,我对于放松肌肉这

    06-21

  • 抖音直播:10月9日起屏蔽第三方源产品

    抖音直播:10月9日起屏蔽第三方源产品

    8月26日创造头条抖音直播又有重大新规:9月6日起第三方链接需走通过星图下单,即可进入直播间购物车。 10月9日起,直播间购物车不再支持第三方来源的商品。 抖音商店平台的商品不受影响。

    06-18

  • 劢微机器人获数千万元A轮融资

    劢微机器人获数千万元A轮融资

    投资界(ID:pedaily)1月28日消息,据36氪报道,劢微机器人Multiway Robotics(简称“劢微机器人”)近期完成了梅花A轮融资创投领投数千万元A轮融资,Plug and Play跟投。 本轮融资将用于进一步的技术研发和市场开拓。 劢微 Robotics是一家致力于成为领先的现场智能物流解决

    06-18

  • 央行:2月末广义货币(M2)余额223.6万亿元,同比增长10.1%

    央行:2月末广义货币(M2)余额223.6万亿元,同比增长10.1%

    据央行官网显示,2月末,广义货币(M2)余额223.6万亿元,同比增长10.1%。 广义货币(M2)余额0.6万亿元,同比增长10.1%,增速分别比上月末和同期高0.7和1.3个百分点去年;狭义货币(M)余额59.35万亿元,同比增长7.4%,增速比上月末低7.3个百分点,比上年同期高2.6个百分点;流

    06-18