半导体激光芯片柠檬光子获5000万元A+轮融资,由德联资本领投
06-18
硬件和算法在人工智能领域的作用可以说是各半,但在芯片层面,业界几乎一致——GPU在人工智能中的作用智能深度学习算法的重要性远高于CPU,这也是为什么NVIDIA在人工智能领域的受欢迎程度甚至超过了Intel。
毫无疑问,GPU 是训练深度学习神经网络最流行的方法。
该解决方案受到了谷歌、微软、IBM、丰田、百度等公司的青睐。
因此GPU厂商逐渐成为近两年企业最流行的方式。
目的。
作为GPU领域的绝对领导者,NVIDIA最近动作频频。
今年早些时候,该公司推出了专门针对深度神经网络的 Tesla PGPU,并发布了基于该 GPU 的单机箱深度学习超级计算机——NVIDIA DGX-1。
如今这款深度学习超级计算机已经问世,NVIDIA CEO黄仁勋近日将DGX-1交付给了马斯克创办的人工智能项目OpenAI。
OpenAI将使用 DGX-1 进行哪些项目?如何使用?目前还不得而知,但我们可以先谈谈这台深度学习超级计算机到底是什么?它有一些很棒的东西。
什么是深度学习超级计算机?顾名思义,深度学习超级计算机是深度学习和超级计算机的结合。
众所周知的“天河一号”和“天河二号”都是超级计算机。
当然,它们不仅如此,它们通常还具有高性能计算(HPC)能力。
)计算机可以算作超级计算机,比如NVIDIA的Tesla系列。
由于深度学习神经网络,尤其是数百、数千层的神经网络,需要非常高的计算和吞吐能力,GPU在处理复杂运算上具有天然的优势:拥有优异的浮点计算性能,可以保证在同一时间。
卷积性能和精度。
因此,配备GPU的超级计算机成为训练各种深度神经网络的唯一选择。
例如,在Google Brain项目中,3台机器配置12个GPU,性能达到包含10个节点的CPU集群的水平。
NVIDIA DGX-1 的表现如何?黄仁勋曾表示,人们花了三年时间才研制出这样一台DGX-1,可见研制深度学习超级计算机有多么困难。
根据NVIDIA官方介绍,DGX-1的规格如下:半精度(FP16)峰值性能高达Teraflops; 8 个 Tesla PGPU 加速器,每个 GPU 16GB 内存; NVLink混合立方体网格(NVLink Hybrid Cube Mesh); 7TB固态硬盘DL缓存;双10G以太网,四路InfiniBand Gb网络连接;功耗:3U – W。
由于 NVIDIA 将这些硬件设计在一个机箱中,因此 DGX-1 被称为单机箱深度学习超级计算机。
Tesla P拥有1亿个16nm FinFET晶体管,核心面积达到mm2。
黄仁勋表示,这款 GPU 是迄今为止最大的芯片。
DGX-1集成了8个16GB显存GPU,吞吐量相当于传统服务器,其7TB固态硬盘用于存储神经网络训练的大量原始数据。
此外,DGX-1系统还包括一套深度学习软件——深度学习GPU训练系统(DIGITS?),可用于设计深度神经网络(DNN)。

据了解,DGX-1可以将深度学习的训练速度提高75倍,并将CPU性能提高56倍。
这是一个什么样的概念呢?英特尔的双路至强系统需要多个节点和几个小时来训练 Alexnet,而 DGX-1 仅需要一个节点和 2 小时。
后者在性能和总节点带宽方面具有明显优势。
当然,随着性能的提升,功耗也达到了W,价格也高达00美元。
GPU 是唯一的选择吗?虽然GPU相比CPU有一定的优势,但与FPGA和神经网络芯片相比还是逊色一些。
有研究人员测试发现,与GPU相比,FPGA具有更灵活的架构和更强的单位能耗性能。
深度学习算法可以在 FPGA 上运行得更快、更高效,并且功耗更低。
Intel甚至为此推出了FPGA和CPU的混合芯片架构。
另一个研究方向是神经网络芯片。
这一领域的代表无疑是IBM的TrueNorth和寒武纪的DianNao。
根据仿真实验结果,采用DianNaoYu指令集的寒武纪深度学习处理器相比采用x86指令集的CPU,性能提升了两个数量级; IBM的Truenorth包含54亿个低成本晶体管突触芯片,功耗低至毫瓦,性能和功耗的优化提升到了一个新的水平。
中国科学院计算技术研究所寒武纪神经网络处理器研究员、研究员陈云吉表示,“加速芯片是神经网络芯片的最终形态。
“但理想很丰满,现实很骨感!目前来看,GPU是实现大规模应用的唯一解决方案。
只能说,FPGA或者神经网络芯片取代GPU,还有很长的路要走。
版权声明:本文内容由互联网用户自发贡献,本站不拥有所有权,不承担相关法律责任。如果发现本站有涉嫌抄袭的内容,欢迎发送邮件 举报,并提供相关证据,一经查实,本站将立刻删除涉嫌侵权内容。
标签:
相关文章
06-06
06-18
06-18
06-18
06-18
最新文章
Android旗舰之王的过去与未来
智能手表不被开发、AR眼镜被推迟,Meta的产品经历了一波三折
为什么Cybertruck是特斯拉史上最难造的车?
更新鸿蒙3后,文杰允许你在车里做PPT了
新起亚K3试驾体验:追求“性价比”,韩系汽车仍不想放弃
阿维塔15登场!汽车配备了增程动力,理想情况下会迎来新的对手吗?
马斯克宣布创建 ChatGPT 竞争对手! OpenAI的CEO给他泼了冷水, GPT-5可能会发生巨大变化
骁龙无处不在,是平台也是生态