首页 > 科技未来 > 内容

算力落后阿克琉斯，阿里巴巴达摩院如何突围？

发布于：2024-06-18 编辑：匿名来源：网络

冯·诺伊曼的存储与计算分离的架构模式已经不能满足人工智能应用的需求。

计算与存储的融合将突破AI算力瓶颈。

“这是达摩院十大技术趋势之一。

让外界没想到的是，早在这一趋势诞生之前，达摩院就已经在存储与计算融合领域布阵，暗中发力。

近日，达摩院宣布在存储与计算集成芯片研究方面取得新突破，成功研发出全球首款基于DRAM的3D键合堆叠存储与计算集成芯片，作为一项新技术分支，该芯片可能是国内首创。

芯片行业的一线曙光，但70年的冯·诺依曼攻击计算系统几乎已经成为行业的铁律，攻克技术和应用难题，达摩院能否突围？二战时，美军要求弹道研究实验室每天为陆军的炮兵部队提供6枚张射表，按照当时的计算工具，要雇佣多个计算器来计算一枚张射表至少需要2个月的时间。

为此，美国集结了一批科学家人前来投资。

48万美元，最终建成了世界上第一台通用电子计算机ENICA，可以实现每秒10次加法或2次乘法的计算能力。

工程师冯·诺依曼写了一篇报告作为反思。

报告明确提到，未来的计算机应包括控制器、存储器、运算单元等组件。

由此诞生了冯·诺依曼架构，意义重大，是存储与计算分离的设计。

，不仅简化了计算机的设计，而且使编程和控制变得更加容易。

从此，冯·诺依曼架构、晶体管和布尔逻辑计算形成了传统计算机的三大基石，以及硬件之上的软件、汇编语言和编译器。

、应用软件共同推动计算系统的发展。

如今，计算机已经经历了半个多世纪的迭代。

虽然架构发生了很多变化，但始终无法摆脱冯式架构的束缚。

使用冯·诺依曼架构是没有问题的。

问题在于，随着AI技术的快速进步，对算力的需求呈爆炸式增长。

虽然多核并行加速技术是提升算力的有效途径之一，但在后摩尔时代，晶体管微缩正在逼近物理极限，芯片算力的增长举步维艰。

最终，算力需求与实际增长之间的矛盾，指向了冯·诺依曼架构中存储与计算分离的局限性。

在计算过程中，需要不断地通过总线交换数据，并从内存读入CPU。

这种运作方式，让冯·诺依曼架构成为计算机领域阿克琉斯的脚后跟。

一方面，内存的发展速度严重落后于处理器的发展速度。

处理器的计算能力以每两年3.1倍的速度增长，而内存的性能每两年仅提高1.4倍。

处理器和内存就像漏斗。

结合起来，狭窄的内存端极大地影响了数据传输的速度。

另一方面，数据传输消耗大量能量。

数据显示，将数据从存储单元传输到计算单元所需的功耗大约是计算本身的两倍，实际用于计算的时间和功耗比例大大降低。

因此，工业界和学术界一直在努力减少数据处理开销。

高带宽存储器、高带宽数据通信、提高存储器速度、增加片上存储等方法相继出现。

然而，这些方法并没有改变数据存储和处理的方式。

一定程度的救济并不能从根本上解决冯·诺依曼建筑的瓶颈。

为此，计算与存储合二为一的存储与计算技术诞生了。

事实上，这项技术早在20世纪90年代就已被提出。

但由于技术复杂、设计成本高、应用场景缺乏等原因，过去几十年来业界对存储计算一体化芯片的研究进展缓慢。

直到近几年，英特尔、三星、美光等传统半导体公司，以及Facebook、谷歌等互联网公司都开始积极布局并逐步显现成效。

也有Mythic、Syntiant、智存科技、Flash Semiconductor等初创公司纷纷涌入这一领域。

但目前还没有一家公司的存储与计算一体化技术解决方案得到市场的广泛认可。

面对这种情况，阿里巴巴希望通过自主研发的创新技术解决行业问题。

打破技术局：达摩院另辟蹊径。

众所周知，平头哥是阿里巴巴旗下的一家半导体公司，但雷锋网了解到，这款存储计算一体化芯片的研发来自于达摩院。

阿里巴巴达摩院拥有16个实验室，涵盖机器智能、数据计算、机器人、金融科技、X实验室等5个领域。

其中，计算技术实验室是一支由国内领衔的前沿芯片技术研究精英团队，由毕业于国外名校、有各大半导体厂商工作经验的研究人员组成。

他们致力于计算、存储和互连芯片的前沿技术研究。

研究方向涵盖系统架构、计算机体系结构、芯片设计优化等领域。

达摩院成立四年来，计算技术实验室一直低调，但团队却交付了最优质的产品。

与产业链合作伙伴共同研发出全球首款基于DRAM的3D邦定堆叠存储计算一体化芯片，这意味着达摩院在存储计算一体化技术领域走出了一条全新的道路。

从全球范围来看，虽然存储与计算一体化技术的开发商众多，但尚未有一家公司交出出色的答卷，也没有成功的经验可供借鉴。

达摩院投资必须走自己的路！ 2019年5月，项目启动时，达摩院计算技术实验室科学家和项目研发负责人郑洪忠带领团队成员反复调研比对现有技术路线，如近存储、内存计算和内存执行计算。

不同的技术路线都指向同一个最终目标，那就是像人脑一样实现存储与计算的完全融合。

在众多解决方案中，达摩院走上了近存计算的道路，并进一步选择了3D键合堆叠技术来实现。

“工艺成熟度和成本是我们选择使用内存逻辑键合的主要原因。

虽然研发之路坎坷，但我们并没有动摇。

”郑洪忠说道。

在郑洪忠看来，很多存储与计算一体化的技术方案对整个系统架构的破坏性很大，对外部流程、工具链、应用都有更加严格的要求。

通过绑定将计算和存储集成在一起，既可以单独设计，也可以绑定在一起。

此前所做的设计工作，是决定这场战斗成败的关键。

达摩院与上下游合作伙伴深度合作，开发多项创新技术。

例如，存储单元采用异构集成嵌入式DRAM（SeDRAM），具有超大带宽和超大容量的特点。

在计算芯片方面，达摩院开发设计了定制化的基于流的加速器架构，对推荐系统进行端到端的加速，包括匹配、粗排序、神经网络计算、精排序等任务。

达摩院实验证明，该芯片完美匹配数据中心推荐系统的带宽/存储需求。

在显着提升带宽的同时，还实现了超低功耗，展现了近存计算在数据中心场景中的潜力。

测试表明，在实际推荐系统应用中，该芯片较传统CPU计算系统可实现10倍以上的性能提升和30倍以上的能效提升。

这一成果很快得到国际顶级机构的认可，相关论文已被ISSCC收录。