首页 > 科技未来 > 内容

浪潮如何实现工业AI算力线？

发布于：2024-06-18 编辑：匿名来源：网络

人工智能已经从一项技术发展成为一项产业。

这是过去几年行业的发展轨迹。

语音识别等人工智能产业化有很大想象空间，但也有天花板。

人们认识到，数千个行业可以转变为人工智能。

广阔的世界里蕴藏着巨大的潜力。

“工业信息化市场已经进入工业人工智能阶段，这将是一个万亿级的市场。

”浪潮集团执行总裁、王恩东在近日举行的IPF浪潮云数据中心合作伙伴大会上表示。

在从技术AI到工业AI的演进过程中，不同的企业都在探索、模糊边界、重塑定位。

这是一个全新的机遇。

巨头可能催生新的产业形态，也可能淘汰一些竞争壁垒较弱的企业。

在变革浪潮的包围下，我们也在从底层算力向上寻找突破。

结合浪潮自身的定位和工业AI的前景，浪潮打造了一条生产算力、汇聚算力、调度算力、释放算力的流水线，加速AI落地，体现了浪潮对AI算力的理解。

生产算力：涵盖训练、推理、边缘，最全的算力产品线。

作为服务器厂商，算力的生产是浪潮最基本的能力。

浪潮已形成完整的产品布局，可提供全系列定制人工智能芯片和加速卡，覆盖从训练到推理、从语音到语义、从边缘到云端到AI加速以及各种相关AI应用的场景。

据浪潮官方介绍，浪潮目前能够提供业界最全、性能组合最高的AI服务器产品线。

用于训练场景的AGX-2等关键产品目前全球首个支持2U空间内8台高性能服务器的互连。

GPU AI服务器AGX-5是目前全球单机AI计算性能最强的AI超级服务器。

单机张量计算性能达到每秒2万亿次。

此外，还有NEM5等针对边缘计算的产品。

本次大会上，浪潮发布了全球首款AI开放加速计算系统MX1，该系统可在同一单元内支持不同厂商的AI芯片，这意味着可以支持多种符合OAM（OCP Accelerator Module）开放标准的接口。

产生计算能力不仅仅是硬件工作。

如何在硬件平台上实现大规模计算，需要配套的软件优化产品和技术。

例如，当前的 Common Crawl 数据集最大大小接近 TB。

如此大的数据集需要大规模的深度神经网络来训练。

由于GPU显存有限，无法实现超大参数规模和高分辨率的图像模型训练。

对此，浪潮开发了LMS系统，可以实现大模型内细粒度模型的分层，从而释放GPU显存压力，优化整体图像计算。

“在三维MRI图像的模型训练中，浪潮LMS系统支持高达百万像素立方的超大图像分辨率，而目前的通用GPU技术只能实现百万像素立方左右的尺寸分辨率。

”浪潮AI&HPC总经理刘军表示。

浪潮自主研发的AI大模型计算框架LMS在NLP智能语言模型训练中参数量已突破70亿个，比通用参数模型大20倍以上。

聚合算力：高性能NVMe存储池，深度优化软件栈算力生产后，数据中心起到聚合算力的作用。

当前的云数据中心还存在很多固有的挑战，比如虚拟交换、VXlan等消耗大量CPU资源的技术。

，损失最多可达50%。

此外，网络抖动、带宽和IOPS的增加可能会降低云数据中心的性能。

同时，裸机服务器和软件定义网络的需求成为主流，这也给数据中心带来了新的问题。

当AI计算中心推出推理服务，尤其是高并发推理服务时，最大的挑战来自于海量文件IO处理的瓶颈。

浪潮专门优化了高并发推理集群的架构，构建了基于NVMe的高性能存储池。

具体操作是深度优化AI计算软件栈，针对高带宽、低延迟的高速网络优化所有推理节点，性能提升3.5倍以上。

在数据中心网络加速方面，推出N20X智能网络加速解决方案，可释放高达50%的CPU计算资源，降低IOPS延迟30%以上。

N20X智能网络加速解决方案可以将主机网络、存储和计算的负载卸载到网卡上，有效加速主机计算、存储和网络。

它支持OVS、NVMe和虚拟IO的技术集成，甚至可以在几分钟内实现接近物理裸金属服务的机器性能、容器和虚拟机资源交付。

调度算力：AIStation资源平台，一站式交付模型开发和部署，生产聚合后的算力如何高效调度，以实现更多创新？ AI应用从开发环境到生产环境、模型上线、部署的复杂度远远大于以前。

人工智能企业需要强大、高效的资源管理平台来帮助完成一站式模型开发和部署。

这是浪潮AIStation资源平台。

AIStation训练平台首先可以解决研发模型开发和训练的挑战，实现AI算力的高效共享，加速AI创新的研发。

通过AIStation，企业内不同工作组和开发人员可以高效共享AI服务器资源，保证计算资源的高效利用。

“我们可以实现计算资源非常细粒度的切割和共享。

一个GPU资源可以共享给多个用户同时使用。

面对训练场和大规模数据集的IO挑战，我们实现了训练数据的缓存加速随着模型开发和训练越来越复杂，浪潮在AIStation上海提供分布式训练和编排，确保开发者能够尽可能自动调度更大规模的算力，提高AI训练的准确性。

模型。

”刘军解释道。

在AI模型生产和上线阶段，AIStation推理平台可以帮助客户部署和推理，从而加快整个AI生产交互流程。

浪潮解决了很多问题。

例如，它兼容多种深度学习框架和推理服务。

AIStation推理版可以提供多模型计算结果，保证推理结果的准确性和可信度。

释放算力：升级AutoML Suite自动机器学习平台，全自动AI建模。

雷锋网了解到，对于单个人工智能应用，其实施平均需要至少6个人月的专家人力。

利用智能工具提高AI开发效率。

，有效降低人工成本，已成为众多企业用户的诉求。

浪潮升级AutoML Suite自动机器学习平台。

AutoML Suite可实现企业级一站式模型自动构建，支持私有化部署，全面支持图像分类/回归/目标检测CV场景应用。

模型尺寸和计算量极度压缩，用户提供原始图像数据和标注数据，通过AutoML Suite处理，自动生成所需的AI算法模型。

AutoML Suite之所以能够实现上述功能，来自于它的三大核心引擎：AutoNAS可以根据数据特征从头开始构建网络模型，实现AI模型与用户应用场景的最佳匹配； AutoTune可自动调节超级参数，将算法工程师从繁琐、耗时的手动调参中解放出来； AutoPrune基于元学习技术，可以在任何网络上进行无损压缩，使得生成的模型能够满足用户的应用生产和部署需求。

目前，浪潮AutoML Suite已在智慧城市、铁路、高速公路等场景得到应用。

在智慧城市路口监控领域，基于40万数据集，AutoML自动生成的模型白天识别准确率达到91.5%，夜间识别准确率达到83.6%，高于人工设计的模型准确率。

专家；在铁路机车设备故障检测中，采用浪潮AutoML Suite自动生成的模型，召回准确率达到81.8%；在高速公路雾识别领域，经过搜索和训练0张图片，自动生成的模型达到了云雾的检测精度。

合格率为99.25%，模型效果符合生产应用水平。

“未来五年、十年，人工智能将成为未来的核心算力。

面对大数据、深度学习的计算需求，人工智能将带来算力需求的指数级增长。

浪潮一直以来致力于创新的人工智能计算也为我们现在的新基建提供了动力，浪潮将提供最先进的算力单元来产生算力，我们的工业人工智能将提供高效的调度。

算力有了更多创新的可能性，同时通过释放算力，人工智能可以快速落地和演进。

”刘军总结道。