首页 > 科技浪潮 > 内容

AI时代驱动存储器创新发展

发布于:2024-06-06 编辑:匿名 来源:网络

作者:Mahendra Pakala,应用材料公司 在物联网、大数据和人工智能(AI)的驱动下,从交通、医疗保健到零售和娱乐等众多行业将迎来下一个时代步。

转型之路被应用材料公司统称为AI计算时代。

在之前的计算时代,大型机/小型机、PC/服务器以及智能手机/平板电脑都受益于摩尔定律的进步,摩尔定律在二维缩放、产品性能、功耗和面积/成本(也称为“PPAC”)方面都受到了摩尔定律的影响。

同时得到改善。

尽管AI时代的各种应用蓬勃发展,但摩尔定律已经放缓;因此,业界需要在2D小型化之外取得突破,以新的方式推动PPAC。

具体来说,我们需要新的计算架构、新材料、新结构(尤其是节省面积的3D结构)以及用于芯片堆叠和异构设计的先进封装。

AI时代的架构变化正在对逻辑和记忆产生影响。

机器学习算法在通用逻辑中广泛使用极其复杂的矩阵乘法运算,这推动了加速器及其存储器的变革。

AI时代驱动存储器创新发展

AI计算由两个不同的内存任务组成:第一个是存储计算的中间结果;第二个是存储计算的中间结果。

第二个是存储与训练模型相关的权重。

性能和功耗对于云计算和边缘计算都很重要,内存创新可以提供帮助。

使用现有内存技术的一种方法是“近内存”,其中大量工作内存被压缩并物理放置在靠近逻辑内存的位置,通过高速接口连接。

例如,3D 堆叠和硅通孔技术正变得越来越流行。

在这些应用中,SRAM 和 DRAM 作为“工作存储器”的一个主要缺点是它们是易失性存储器,需要持续供电才能保留数据(例如重量)。

为了降低云端和边缘的功耗,设计人员正在评估高性能且非易失性的新型存储器,因为它们仅在主动读写时才需要电力。

引领新型存储器的解决方案有三种,分别是磁性RAM(MRAM)、相变RAM(PCRAM)和电阻式RAM(ReRAM)。

上述三种存储器没有使用电荷,而是使用新材料产生不同的电阻率状态,高电阻和低电阻依次代表1和0。

MRAM 利用磁场方向的变化来控制电阻率。

PCRAM 利用材料排列从非晶态到晶态的结构变化。

ReRAM 在材料中创建电流路径。

PCRAM 和 ReRAM 都提供电阻率中间级,可以在每个单元中存储多层数据位。

让我们看看AI时代的计算应用,看看它们如何驱动未来的创新。

图1.AI时代驱动的半导体创新复兴之路。

物联网边缘应用可分为低性能/低功耗应用和高性能/高功耗应用。

例如,使用人工智能算法的安全摄像头非常适合面部和语音识别等应用,但属于低性能/低功耗应用。

设计目标是处理尽可能多的边缘数据并仅将重要信息传输到云端。

由于采样频率低,所以性能要求也低。

功耗(包括待机功耗)至关重要,尤其是对于电池供电的设备。

目前,业界在边缘设备中使用 SRAM 存储器。

SRAM 并不理想,因为每个存储单元需要多达六个晶体管,并且源极泄漏功率可能很高。

在内存重量方面,SRAM的能效并不突出,尤其是在低频设计中使用时。

作为替代方案,MRAM 可确保晶体管密度增加数倍,从而实现更高的存储密度或更小的芯片尺寸。

MRAM 的另一个关键特性是它被设计为适合嵌入式片上系统产品 (SOC) 的后端互连层。

MRAM可用于存储SOC的操作系统和应用程序,无需嵌入闪存芯片,从而减少系统芯片总数和成本。

高性能“近边缘”应用,例如缺陷检测和医学筛查,需要更高的性能。

一种称为自旋轨道扭矩 MRAM (SOT-MRAM) 的 MRAM 变体已被证明在速度和功耗方面可能优于自旋转移扭矩 MRAM (STT-MRAM)。

云计算需要尽可能高的计算性能,并且在训练过程中,需要将大量数据传输到机器学习加速器附近。

相应地,机器学习加速器需要配备大型片上SRAM缓存,并辅以大型片外DRAM阵列——这需要使用持续的电源。

电力使用对于云服务提供商来说非常重要,因为人工智能时代数据将呈指数级增长,而电网电力有限且成本高昂。

PCRAM的功耗和成本低于DRAM,而性能高于固态硬盘和机械硬盘,使其成为云计算架构的首选解决方案。

除了上述“二进制”边缘应用、近边缘应用、云应用的广阔前景外,存储内计算的研究也日益深入。

可以想象在用于机器学习的存储器阵列中执行频繁的矩阵乘法运算。

设计人员正在探索伪交叉点架构,其中权重存储在各个内存节点上。

PCRAM、ReRAM 甚至铁电场效应晶体管 (FeFET) 都是绝佳的候选者,因为它们都具有每个单元多层存储的潜力。

目前,ReRAM 看起来是最适合此类应用的存储器。

可以使用欧姆定律和基尔霍夫定律在阵列内完成矩阵乘法,而无需将权重移入和移出芯片。

多级单元架构可将内存密度提升到新的水平,从而实现更大模型的设计和使用。

要将这些新型模拟存储器变为现实,需要对新材料进行全面的开发和工程设计,应用材料公司目前正在积极探索一些最具代表性的解决方案。

当摩尔定律的指数级发展速度逐渐放缓时,AI时代将迎来数据的指数级增长。

这种压力已经在推动架构、材料、3D 结构以及芯片堆叠和异构集成的先进封装方面的创新。

内存与AI计算引擎的关系越来越密切,最终,内存可能会成为AI计算引擎本身。

随着这些创新的实施,我们将看到性能、功耗和密度(面积/成本)方面的显着改进,并且随着新存储器的优化,边缘、近边缘和云应用程序的需求将最终得到满足。

我们需要硬件的彻底复兴,以释放人工智能时代的全部潜力。

AI时代驱动存储器创新发展

站长声明

版权声明:本文内容由互联网用户自发贡献,本站不拥有所有权,不承担相关法律责任。如果发现本站有涉嫌抄袭的内容,欢迎发送邮件 举报,并提供相关证据,一经查实,本站将立刻删除涉嫌侵权内容。

标签:

相关文章

  • 黑石创始人:清华大学学者项目已融资2.6亿美元

    黑石创始人:清华大学学者项目已融资2.6亿美元

    黑石集团创始人-苏世民今日表示,此前启动的“清华大学苏世民学者项目”迄今已融资2.6亿美元,成为全球最大的项目迄今为止的中国大学。 学者项目。 随着今天清华大学苏世民学院奠基仪式在清华大学校园举行,该项目正式进入实质性建设阶段,苏世民学院预计将于2020年竣工。  

    06-17

  • VirtAITech.com已完成近千万美元Pre-A轮融资,深耕虚拟化软件市场,

    VirtAITech.com已完成近千万美元Pre-A轮融资,深耕虚拟化软件市场,

    据投资界6月8日消息,本土虚拟化软件初创公司VirtAITech.com已完成Pre-A轮融资。 ,投资近1000万美元。 本轮融资由戈壁创投领投,高瓴创投、科讯基金跟投。 上轮天使投资人永华投资、深鉴科技前CEO姚颂继续投资。 本轮资金将用于在快速增长的人工智能和云游戏领域扩大资源池

    06-18

  • 威胁情报公司微步在线ThreatBook获1亿元C轮融资,高瓴资本、星陆资本共同领投

    威胁情报公司微步在线ThreatBook获1亿元C轮融资,高瓴资本、星陆资本共同领投

    据投资界11月20日消息,威胁情报公司微步在线ThreatBook获1亿元C轮融资C轮融资,由高瓴资本、星路资本联合领投。 据了解,本轮融资将主要用于技术和产品研发,以及销售和营销体系建设。 微步在线ThreatBook成立于2006年,是一家互联网安全公司,目前致力于网络威胁发现和响应

    06-17

  • 松鹤资本将于12月推出新基金,齐心投资的文具年内上市

    松鹤资本将于12月推出新基金,齐心投资的文具年内上市

    松鹤资本创始人合伙人、董事长、总经理罗飞近日透露,松鹤资本将于本月推出新基金,同时也在筹备天水基金。 目前,所有资金来源均为人民币。   罗飞介绍表示,松鹤资本未来有望管理一支小型美元基金,与目前管理的人民币基金是互动关系。 “这种互动关系在一定程度上是一种

    06-18

  • 社交媒体平台Somewhere Good完成375万美元种子轮融资

    社交媒体平台Somewhere Good完成375万美元种子轮融资

    投资圈(ID:pedaily)5月20日消息,据外媒TechCrunch报道,社交媒体平台Somewhere Good完成种子轮融资10,000 美元。 本轮融资由 True Ventures 领投,Dream Machine、Debut Capital 和 Canvas Ventures 跟投。 据悉,这笔资金将主要用于持续的产品创新和团队扩张。 创始人、

    06-17

  • 2020年Q1全球创投报告:总额环比下降17%,IPO数量下降超50% -全球资讯

    2020年Q1全球创投报告:总额环比下降17%,IPO数量下降超50% -全球资讯

    创头条编译 刚进入新年的时候,我们对今年的全球创投抱有很大的期待。 然而,随着疫情的爆发,我们看到了全球风险投资的下滑。 近两年,全球风险投资市场经历了高峰。 Crunchbase数据显示,2018年全球风险投资总额创历史新高,2016年表现仅次于2017年。 2017年中国风险投资大

    06-18

  • AI招聘平台“直聘”获数百万元种子轮融资,无锡逆熵资本投资

    AI招聘平台“直聘”获数百万元种子轮融资,无锡逆熵资本投资

    投资圈(ID:pedaily)6月9日消息,AI招聘平台“直聘”获获得无锡逆熵资本数百万种子轮融资。 “直品”成立于今年4月。 直聘Coplt的人才版和企业版依托于自主研发的ZHIPIN-TLLM(Talent Large Language Model)大语言模型。 他们正在尝试改变招聘流程,打造一个更加完善的双边

    06-17

  • 百福控股获弘毅投资增资7.8亿港元

    百福控股获弘毅投资增资7.8亿港元

    据投资界1月14日消息,百福控股董事会正式批准向百福控股发行总额7.8亿港元的可转债弘毅投资集团旗下子公司。 弘毅投资成立于2006年,是联想控股旗下成员公司。 目前管理的基金总额超过1亿元人民币,其投资者包括联想控股、中国科技控股、全国社保基金、中国人寿、高盛、淡马

    06-18

  • 三星电子宣布2025年量产2纳米芯片

    三星电子宣布2025年量产2纳米芯片

    台湾《经济日报》10月7日消息,三星电子在公司举办的晶圆代工论坛上表示,将在第一时间开始量产2纳米芯片明年一半。 生产客户设计的3纳米芯片,第二代3纳米芯片预计将于2018年量产。 三星表示,该公司的GAA晶体管结构先进制程技术已完全开发出来,可量产3纳米芯片。 -明年为客

    06-08

  • 去年招商局置地合同销售近500亿元,股东利润同比跌六成

    去年招商局置地合同销售近500亿元,股东利润同比跌六成

    去年招商置地合同销售额近500亿元,股东利润同比下降60%。 招商置地全年营业收入5600万元,同比下降3%;毛利润47.2亿元,同比下降约25%。 股东应占溢利7.01亿元,同比下降约61%;每股基本盈利为14.3仙,建议派发末期股息每股0.07港元。

    06-18

  • 爱钱帮完成B+轮融资,原百度副总裁陆复斌投资

    爱钱帮完成B+轮融资,原百度副总裁陆复斌投资

    据投资界7月3日消息,互联网金融平台“爱钱帮”近日完成3亿元B+轮融资,由信义资本领投创始人,原百度副总裁陆复斌投资人。 与此同时,陆复斌出任爱钱帮董事长一职,对爱钱帮未来的发展进行战略规划和布局。    据悉,本次融资将用于业务拓展、技术升级、人才引进、品牌升

    06-17

  • 新能源企业蜂拥上市,华能吸引中投公司作为基石投资者

    新能源企业蜂拥上市,华能吸引中投公司作为基石投资者

    5月27日下午消息,继去年底大唐新能源在香港上市后,又一内地新能源企业上市能源公司华能(8.HK)卷土重来,引入中投公司等13家基石投资者。 市场人士告诉新浪财经,新能源企业纷纷赴港上市,代表着新能源行业的快速发展,但也可能引发融资战。   继去年12月17日大唐新能源

    06-18