首页 > 科技浪潮 > 内容

AI时代驱动存储器创新发展

发布于:2024-06-06 编辑:匿名 来源:网络

作者:Mahendra Pakala,应用材料公司 在物联网、大数据和人工智能(AI)的驱动下,从交通、医疗保健到零售和娱乐等众多行业将迎来下一个时代步。

转型之路被应用材料公司统称为AI计算时代。

在之前的计算时代,大型机/小型机、PC/服务器以及智能手机/平板电脑都受益于摩尔定律的进步,摩尔定律在二维缩放、产品性能、功耗和面积/成本(也称为“PPAC”)方面都受到了摩尔定律的影响。

同时得到改善。

尽管AI时代的各种应用蓬勃发展,但摩尔定律已经放缓;因此,业界需要在2D小型化之外取得突破,以新的方式推动PPAC。

具体来说,我们需要新的计算架构、新材料、新结构(尤其是节省面积的3D结构)以及用于芯片堆叠和异构设计的先进封装。

AI时代的架构变化正在对逻辑和记忆产生影响。

机器学习算法在通用逻辑中广泛使用极其复杂的矩阵乘法运算,这推动了加速器及其存储器的变革。

AI时代驱动存储器创新发展

AI计算由两个不同的内存任务组成:第一个是存储计算的中间结果;第二个是存储计算的中间结果。

第二个是存储与训练模型相关的权重。

性能和功耗对于云计算和边缘计算都很重要,内存创新可以提供帮助。

使用现有内存技术的一种方法是“近内存”,其中大量工作内存被压缩并物理放置在靠近逻辑内存的位置,通过高速接口连接。

例如,3D 堆叠和硅通孔技术正变得越来越流行。

在这些应用中,SRAM 和 DRAM 作为“工作存储器”的一个主要缺点是它们是易失性存储器,需要持续供电才能保留数据(例如重量)。

为了降低云端和边缘的功耗,设计人员正在评估高性能且非易失性的新型存储器,因为它们仅在主动读写时才需要电力。

引领新型存储器的解决方案有三种,分别是磁性RAM(MRAM)、相变RAM(PCRAM)和电阻式RAM(ReRAM)。

上述三种存储器没有使用电荷,而是使用新材料产生不同的电阻率状态,高电阻和低电阻依次代表1和0。

MRAM 利用磁场方向的变化来控制电阻率。

PCRAM 利用材料排列从非晶态到晶态的结构变化。

ReRAM 在材料中创建电流路径。

PCRAM 和 ReRAM 都提供电阻率中间级,可以在每个单元中存储多层数据位。

让我们看看AI时代的计算应用,看看它们如何驱动未来的创新。

图1.AI时代驱动的半导体创新复兴之路。

物联网边缘应用可分为低性能/低功耗应用和高性能/高功耗应用。

例如,使用人工智能算法的安全摄像头非常适合面部和语音识别等应用,但属于低性能/低功耗应用。

设计目标是处理尽可能多的边缘数据并仅将重要信息传输到云端。

由于采样频率低,所以性能要求也低。

功耗(包括待机功耗)至关重要,尤其是对于电池供电的设备。

目前,业界在边缘设备中使用 SRAM 存储器。

SRAM 并不理想,因为每个存储单元需要多达六个晶体管,并且源极泄漏功率可能很高。

在内存重量方面,SRAM的能效并不突出,尤其是在低频设计中使用时。

作为替代方案,MRAM 可确保晶体管密度增加数倍,从而实现更高的存储密度或更小的芯片尺寸。

MRAM 的另一个关键特性是它被设计为适合嵌入式片上系统产品 (SOC) 的后端互连层。

MRAM可用于存储SOC的操作系统和应用程序,无需嵌入闪存芯片,从而减少系统芯片总数和成本。

高性能“近边缘”应用,例如缺陷检测和医学筛查,需要更高的性能。

一种称为自旋轨道扭矩 MRAM (SOT-MRAM) 的 MRAM 变体已被证明在速度和功耗方面可能优于自旋转移扭矩 MRAM (STT-MRAM)。

云计算需要尽可能高的计算性能,并且在训练过程中,需要将大量数据传输到机器学习加速器附近。

相应地,机器学习加速器需要配备大型片上SRAM缓存,并辅以大型片外DRAM阵列——这需要使用持续的电源。

电力使用对于云服务提供商来说非常重要,因为人工智能时代数据将呈指数级增长,而电网电力有限且成本高昂。

PCRAM的功耗和成本低于DRAM,而性能高于固态硬盘和机械硬盘,使其成为云计算架构的首选解决方案。

除了上述“二进制”边缘应用、近边缘应用、云应用的广阔前景外,存储内计算的研究也日益深入。

可以想象在用于机器学习的存储器阵列中执行频繁的矩阵乘法运算。

设计人员正在探索伪交叉点架构,其中权重存储在各个内存节点上。

PCRAM、ReRAM 甚至铁电场效应晶体管 (FeFET) 都是绝佳的候选者,因为它们都具有每个单元多层存储的潜力。

目前,ReRAM 看起来是最适合此类应用的存储器。

可以使用欧姆定律和基尔霍夫定律在阵列内完成矩阵乘法,而无需将权重移入和移出芯片。

多级单元架构可将内存密度提升到新的水平,从而实现更大模型的设计和使用。

要将这些新型模拟存储器变为现实,需要对新材料进行全面的开发和工程设计,应用材料公司目前正在积极探索一些最具代表性的解决方案。

当摩尔定律的指数级发展速度逐渐放缓时,AI时代将迎来数据的指数级增长。

这种压力已经在推动架构、材料、3D 结构以及芯片堆叠和异构集成的先进封装方面的创新。

内存与AI计算引擎的关系越来越密切,最终,内存可能会成为AI计算引擎本身。

随着这些创新的实施,我们将看到性能、功耗和密度(面积/成本)方面的显着改进,并且随着新存储器的优化,边缘、近边缘和云应用程序的需求将最终得到满足。

我们需要硬件的彻底复兴,以释放人工智能时代的全部潜力。

AI时代驱动存储器创新发展

站长声明

版权声明:本文内容由互联网用户自发贡献,本站不拥有所有权,不承担相关法律责任。如果发现本站有涉嫌抄袭的内容,欢迎发送邮件 举报,并提供相关证据,一经查实,本站将立刻删除涉嫌侵权内容。

标签:

相关文章

  • 九丰能源与永华投资成立氢能产业基金

    九丰能源与永华投资成立氢能产业基金

    投资界-解码LP获悉,近日,九丰能源(90.SH)发布公告,为加快实施公司氢业务发展战略和产业项目布局方面,公司与上海泰氢企业管理合伙企业(有限合伙)等各方??签署《青岛涌氢创业投资基金合伙企业(有限合伙)合伙协议》计划,共同投资设立氢能产业基金。 主要投资于电解水

    06-18

  • 身份管理平台「ZITADEL」获 Nexus Venture Partners 领投的 250 万美元种子轮融资

    身份管理平台「ZITADEL」获 Nexus Venture Partners 领投的 250 万美元种子轮融资

    6 月 13 日独家消息 6 月 10 日,身份管理平台 ZITADEL 宣布完成 1 万美元种子轮融资,由 Nexus Venture Partners 领投Nexus 风险投资伙伴。 本轮融资将帮助ZITADEL为开发者提供满足其身份管理需求的开源解决方案、扩大销售增长并培育开源社区。

    06-17

  • 耀明便利完成天使轮融资,生鲜市场再次获得资本青睐

    耀明便利完成天使轮融资,生鲜市场再次获得资本青睐

    据投资界4月12日消息,近日,互联网零售平台“耀明便利”获万元融资融资情况,投资方未透露。    据悉,本轮融资将用于团队建设和平台建设。   耀明便利于2016年5月在济南成立,隶属于济南勤迅信息科技有限公司,是一家从代理到B2C移动电子商务平台的水果产业链。 天马方

    06-18

  • 又一家小龙虾公司获融资,虾皇获3000万元A轮融资

    又一家小龙虾公司获融资,虾皇获3000万元A轮融资

    据投资界6月7日消息,小龙虾餐饮品牌虾皇昨日宣布,公司获得1万元A轮融资。 本轮融资由山乐国际投资领投,珞珈创谷、永祥基金、共企集团跟投。   虾皇实业有限公司董事长助理王选成介绍,本次融资完成后,虾皇计划进入江西市场,进一步扩大和扩大小龙虾养殖基地,努力扩大生

    06-18

  • 恒丰新材获近亿元A轮融资,由耀途资本领投、元禾璞华

    恒丰新材获近亿元A轮融资,由耀途资本领投、元禾璞华

    投资界(ID:pedaily)据12月14日消息,上海恒丰新材料科技有限公司(以下简称:恒丰新材料(简称“恒丰新材”)近期完成近亿元A轮融资,由耀图资本、元禾璞华领投,永华资本、瑞夏投资等跟投,耀明资本担任顾问的财务投资人。 本轮融资将用于扩大研发、提高质量保证和升级产

    06-18

  • 新锐零售连锁品牌“LOTGOO”获数千万元天使轮融资,鼎佑资本投资

    新锐零售连锁品牌“LOTGOO”获数千万元天使轮融资,鼎佑资本投资

    本轮融资将主要用于打造数字化供应链体系以及开设更多直营店。

    06-18

  • 山东:《关于创新监管促进药品流通行业高质量发展的若干措施》

    山东:《关于创新监管促进药品流通行业高质量发展的若干措施》

    一、起草背景 药品流通行业高质量发展关系人民群众生命健康,关系“健康中国”战略实施。 当前,医药流通行业已进入改革关键时期。 为深入贯彻落实《山东省“十四五”药品安全规划》等文件精神,着力解决药品流通行业发展遇到的痛点、困难、堵点,推动我省药品流通行业高质量

    06-18

  • 硅制造零件市场预计将迎来高速增长

    硅制造零件市场预计将迎来高速增长

    层数技术的增加和OLED增长推动硅零件的需求提供业务和技术信息的电子材料咨询公司预计硅制造零件的收入将在2019年下降5% ,总额达到百万美元。 这种放缓是由于半导体行业的整体下降趋势,以及晶圆开工数量的下降。 正如新发布的硅零件关键材料报告?中所解释的那样,TECHCET 预

    06-06

  • 移动协作机器人供应商“摩盈科技”获数千万元A轮融资

    移动协作机器人供应商“摩盈科技”获数千万元A轮融资

    移动协作机器人技术解决方案及产品提供商“摩盈科技”宣布完成A轮融资,融资金额数千万元元,由天奇创投领投,前海长城基金跟投。 本轮融资将用于公司的产品研发、供应链建设及商业化。

    06-18

  • TVPlay:大屏幕游戏即将到来,技术为先,内容为王

    TVPlay:大屏幕游戏即将到来,技术为先,内容为王

    互联网旗帜下,一切都是智能的。 各类智能设备、可穿戴设备无处不在。 电视作为家庭必备电器,自然也逃不过法网。 放眼中国,电视硬件的制造水平不言而喻。 电视要智能化,还是需要在软实力上下功夫。 购物、游戏、娱乐、社交缺一不可。 既然是居家生活必备的大屏,那么它必然

    06-17

  • 【创业24小时】2022年10月20日

    【创业24小时】2022年10月20日

    投融资昨天,国内市场共发生15起投资披露事件,其中先进制造6起(亿竹科技、北京超晶科技、微勤科技、中科时代、驰普科达、德速递)、医疗健康案例3个(仁辰生物、君秀生物、再济药业)、企业服务2个(华南脑控、友信财税)、电商零售案例2个(大石城光学、奥科利尔) )、传

    06-17

  • 钙钛矿缺陷容忍度的“秘密”被揭晓,为更高效的光伏组件铺平了道路

    钙钛矿缺陷容忍度的“秘密”被揭晓,为更高效的光伏组件铺平了道路

    钙钛矿对缺陷具有非常高的容忍度。 剑桥大学的研究人员揭开了其背后的神秘面纱,这对于太阳能来说非常重要。 对光伏组件未来效率的潜在影响是巨大的。 使用新的显微镜方法,研究人员“首次”观察到钙钛矿材料及其对结构缺陷的耐受性。 研究人员得出的结论是,有两种形式的无序

    06-08