首页 > 科技未来 > 内容

摩尔线程首个千卡智算中心上线,加速大模型从算力到生态的发展

发布于:2024-06-17 编辑:匿名 来源:网络

12月19日,摩尔线程首个国产千卡千亿模型训练平台——摩尔线程KUAE智计算中心揭牌仪式发布会在北京成功召开,宣布我国首个基于国产全功能GPU的大规模计算集群正式发布。

同时,摩尔线程联合国内众多合作伙伴发起并成立了摩尔线程PES-KUAE智计算联盟和摩尔线程PES-大模型生态联盟,共同巩固国内大模型从智算基础设施到大模型训练和推理。

融合生态持续加速我国大模型产业发展。

Moore Thread CEO张建中在主题演讲中带来了重大公告,包括大型模型智算加速卡MTT S,以及Moore Thread KUAE平台,旨在为数千亿参数的大型模型的训练和推理提供强大支持。

他表示:“Moore ThreadKUAE智计算中心的正式启用是公司发展的重要里程碑。

Moore Thread依托全功能GPU的多重计算优势,打造了从芯片到显卡到集群的智算产品线”满足日益增长的大模型训练和推理需求,利用绿色安全的智能算力,大力推动AIGC、数字孪生、物理仿真、元宇宙等多模态应用的落地和高质量发展。

数以千计的行业。

”新款智算加速卡MTT S:兼顾训练和推广,摩尔线程大模型智算加速卡MTT S专为大型模型打造,采用第三代MUSA核心,单卡支持48GB显存和GB。

/s的显存带宽。

基于摩尔线程自研的MTLink1.0技术,MTT S可支持多卡互联,帮助加速千亿级大型模型的分布式计算,同时MTT S提供先进的图形处理能力。

渲染能力、视频编解码能力、超高清8K HDR显示能力,帮助实现AI计算、图形渲染、多媒体等综合应用场景。

开发的MUSIFY开发工具,MTT S计算卡可以充分利用现有的CUDA软件生态系统,实现CUDA代码零成本迁移到MUSA平台。

摩尔线程KUAE智计算中心解决方案:软硬件一体化,开箱即用摩尔线程KUAE智计算中心解决方案基于全功能GPU,是软硬件一体化的全栈解决方案,包括基础以KUAE计算集群为核心设施,KUAE Platform集群管理平台和KUAE ModelStudio模型服务旨在以集成交付的方式解决大规模GPU算力的建设和运营管理问题。

该方案可开箱即用,大幅降低传统算力建设、应用开发和运维平台建设的时间成本,实现快速上线市场进行商业运营。

基础设施:包括KUAE计算集群、RDMA网络和分布式存储。

此次发布的Moore Thread KUAE千卡模型训练平台仅需30天搭建,支持千亿参数模型预训练、微调和推理,可实现高达91%的千卡集群性能扩展系数。

基于MTT S和双通道8卡GPU服务器MCCX D,摩尔线程KUAE集群支持从单机多卡到多机多卡、从单卡到千卡的无缝扩展簇。

未来还将推出更大规模的集群,以满足更大规模的大模型训练需求。

KUAE Platform集群管理平台:AI大模型训练、分布式图形渲染、流媒体处理和科学计算的软硬件集成平台。

深度融合全功能GPU计算、网络、存储,提供高可靠、高算力服务。

通过该平台,用户可以灵活管理多数据中心、多集群计算资源,整合多维度运维监控、报警和日志系统,帮助智算中心实现运维自动化。

KUAE ModelStudio模型服务:覆盖大模型预训练、微调、推理全流程,支持所有主流开源大模型。

通过Moore Thread MUSIFY开发工具,您可以轻松复用CUDA应用生态,内置容器化解决方案可实现一键API部署。

该平台旨在提供大型模型的生命周期管理。

通过简单易操作的交互界面,用户可以按需组织工作流程,大幅降低大型模型的使用门槛。

Moore Thread KUAE Kilocard Cluster:多重优势,促进大型模型高效训练。

分布式并行计算是实现大型人工智能模型训练的关键手段。

Moore Thread KUAE支持DeepSpeed、Megatron-DeepSpeed、Colossal-AI、FlagScale等业界主流分布式框架,集成了数据并行、张量并行、流水线并行、ZeRO等多种并行算法策略,专为高性能计算而设计。

效率针对通信计算并行性和Flash Attention进行了额外的优化。

目前摩尔线程支持包括LLaMA、GLM、Aquila、百川、GPT、Bloom、语言等多种主流大模型的训练和微调。

基于摩尔线程KUAE千卡集群,线性加速比可达91%对于70B to B参数的大模型训练,算力利用率基本保持不变。

以1亿训练数据量为例,致远研究院的1亿参数Aquila2可以在33天内完成训练; 1亿参数的模型可以在56天内完成训练。

此外,摩尔线程KUAE千卡集群支持长期持续稳定运行,支持断点续传训练,异步checkpoint小于2分钟。

摩尔线程KUAE千卡计算集群凭借高兼容性、高稳定性、高扩展性和高算力利用率的综合优势,将成为大模型训练坚实可靠的先进基础设施。

智算与大模型生态联盟:多方协作推动生态融合 大模型时代,以GPU为代表的智能算力是生成式AI世界的基石和中心。

摩尔线程与中国移动北京公司、中国电信北京分公司、联想、21世纪互联、光环新网、中联重科数据、数道智算、中发智源、旗商在线、北电数字北京数字经济计算等十余家企业合作、紫光恒跃、瑞华实业控股(山东)、赛尔网络、中科金融、中云智算、锦州远航(排名不分先后),联合宣布“摩尔丝PES——KUAE智算联盟”成立。

联盟将大力打造并从底层硬件到软件、工具和应用推广全国性的智算平台,旨在实现集群的高利用率,成为具有易用性、全栈智算解决方案的大型模型训练平台。

摩尔线程分别与中联重科数据、数道智算现场签约,并共同为摩尔线程KUAE智计算中心揭牌。

在场的众多嘉宾共同见证了这一重要时刻。

人工智能应用突破,生态是关键。

为此,摩尔线程携手飞票、京东燕西、智普AI、超对称、无文新琼、迪普科技、网易、清华大学、复旦大学、浙江大学、北京理工大学、凌云光、瑞来等众多大型模型生态合作伙伴智慧、南威软件等(排名不分先后)发起并成立了“摩尔线程PES——大模型生态联盟”。

摩尔线程将以MUSA为中心的软硬件一体化大模型解决方案,与广泛的生态合作伙伴积极开展兼容性适配和技术优化工作,共同推动国内大模型生态系统的整体繁荣。

最后的圆桌对话环节,摩尔线程副总裁董龙飞、国能绿色数字科技(中卫)有限公司董事长胡强、智普智能CEO张鹏、智普智能首席人工智能科学家裴继权京东云、中金资本董事总经理翟盈、超对称创始人吴恒奎、数道智算董事长甄健等重要嘉宾就当前大型企业算力需求等话题进行了深入探讨。

模型以及智算中心的建设和运营。

摩尔线程首个千卡智算中心上线,加速大模型从算力到生态的发展

嘉宾们一致认为,智算中心不仅是硬件的积累,更是对软硬件一体化的GPU智算系统的集成能力、GPU分布式计算系统的适配、算力集群的管理和管理能力的考验。

有效的推理。

引擎等的应用,都是提高算力中心可用性的重要因素。

国内智算中心的发展依赖于各方需求和优势的充分融合。

只有产业集聚,才能实现整个生态系统的协同,推动国内产业的发展。

关于摩尔线程:摩尔线程智能科技(北京)有限公司是一家专注于全功能GPU芯片设计的集成电路高科技公司。

它可以为广泛的技术生态合作伙伴提供强大的计算加速能力,致力于为下一代互联网提供多种计算能力的元计算平台。

更多信息请访问摩尔线程雷锋网官网(公众号:雷锋网)雷锋网版权文章未经授权禁止转载。

详情请参见转载说明。

摩尔线程首个千卡智算中心上线,加速大模型从算力到生态的发展

站长声明

版权声明:本文内容由互联网用户自发贡献,本站不拥有所有权,不承担相关法律责任。如果发现本站有涉嫌抄袭的内容,欢迎发送邮件 举报,并提供相关证据,一经查实,本站将立刻删除涉嫌侵权内容。

标签:

相关文章

  • 提高企业人力资源效率的关键:HR共享服务中心解决方案

    提高企业人力资源效率的关键:HR共享服务中心解决方案

    .wp-block-column h3{margin-left:0} 近年来,随着企业规模的不断扩大和全球竞争的加剧目前,企业人力资源(HR)管理面临巨大挑战。 为了应对这些挑战,越来越多的企业开始关注和投资人力资源共享服务中心(HR SSC)。 本文将详细阐述HR共享服务中心的概念和功能,并推荐沃峰

    06-18

  • 军工隐形冠军博雅精工挂牌,重金投资机构丰年资本赋能产业发展

    军工隐形冠军博雅精工挂牌,重金投资机构丰年资本赋能产业发展

    4月15日,军工+国产另类隐形冠军博雅精工正式在创业板挂牌。 博雅精工今日开盘价50元。 目前,截至发稿,股价为51.5元,股价涨幅高达0.35%。 博雅精密主要从事精密设备、特种设备关键零部件及配套部件的研发、生产和销售。 总之,其生产的产品是横跨军工和民用各个重要领域(

    06-18

  • 辉瑞向基石药业投资2亿美元,共同满足中国肿瘤治疗需求

    辉瑞向基石药业投资2亿美元,共同满足中国肿瘤治疗需求

    据投资界9月30日消息,基石药业(港交所代码:)与辉瑞旗下辉瑞投资有限公司Inc.(纽约证券交易所代码:PFE)(“辉瑞投资”)与辉瑞科学制药有限公司(“辉瑞香港”)今日宣布建立战略合作伙伴关系,其中辉瑞香港对辉瑞科学制药有限公司进行 2 亿美元股权投资基石药业。 抗

    06-17

  • 5月25日,最美手机vivo X5Pro在微信朋友圈上线,拒绝期货

    5月25日,最美手机vivo X5Pro在微信朋友圈上线,拒绝期货

    近期最美手机vivo《手品之美》(据悉是陈硕及其原创创造的“苍白身子”)团队引起了线上线下数百个品牌的互动交流,文案比赛,甚至大学生也用它来表达自己的爱,并且《手品之美》视频已经获得了数百万的预浏览和点击;在重量级数据和“美颜”的诱惑下,朋友圈销量已远超首发1

    06-17

  • 林氏集团收购 SEMSYSCO,推进芯片封装

    林氏集团收购 SEMSYSCO,推进芯片封装

    林氏集团 林氏集团最近宣布,已从 Gruenwald Equity 和其他投资者手中收购了全球湿法加工半导体设备供应商 SEMSYSCO GmbH。 随着SEMSYSCO的加入,林氏集团获得的先进封装能力成为基于高性能计算(HPC)、人工智能(AI)和其他数据密集型应用的尖端逻辑芯片和chiplet的理想解

    06-06

  • 「悟空自家」获盈京丽战略天使投资,估值达1亿元

    「悟空自家」获盈京丽战略天使投资,估值达1亿元

    近日,「悟空自家」获天使战略投资。 投资方为盈京丽,投后估值为1亿元人民币。 悟空自家是多功能智能空间解决方案提供商,致力于为“家居、办公、教育培训、餐饮、商旅、康养、休闲、亲子”领域提供“1+N模式”“多功能+智能”和其他领域。 “空间解决方案。

    06-18

  • 全球融资周报(3.4-3.10)

    全球融资周报(3.4-3.10)

    头条新闻:1、阿里巴巴领投大型模型初创公司MiniMax最新一轮融资。 据悉,通用大型模型初创公司MiniMax正在进行新一轮大规模融资,阿里巴巴是其中Core领投方之一。 目前,阿里巴巴和红杉资本均已承诺参与本轮融资。 本轮总投资将超过6亿美元。 其余投资者仍在洽谈中,相关条款

    06-18

  • 从“云原生”到“AI原生”,创业者与计算平台如何相互成就

    从“云原生”到“AI原生”,创业者与计算平台如何相互成就

    作者 |编辑郑玥|晶宇AI及其“基地”云计算,再次成为创业冲锋。 在国内,秒芽相机成为首个AIGC C端爆红应用。 在业务方面,已经有大量的生产场景应用了AI大模型的能力。 在技??术变革的早期阶段,对于创业者来说,没有比现在更好的时机了。 新技术带来的创新应用层出不穷。 当

    06-17

  • SHEIN,心魔难除

    SHEIN,心魔难除

    上市计划曝光后,SHEIN的动作明显加快:9月25日,全球贸易分析公司ImportGenius的数据显示,电商巨头SHEIN正在向更低的方向迈进——特价服装和家居用品从中国运送到美国仓库,加快购物物流时间。 有业内分析人士表示,SHEIN很可能会继续扩大对美国的批量发货,以缩小与亚马逊

    06-17

  • 天猫618备货总量翻倍,菜鸟供应链推“五宝”助商家备战

    天猫618备货总量翻倍,菜鸟供应链推“五宝”助商家备战

    天猫618总库存翻倍,菜鸟供应链推出“五宝”,帮助商家备战。 2020年天猫即将启动,预计发放价值1亿元的现金券和补贴,创下历史最大记录。 菜鸟供应链数据显示,今年天猫备货量同比、环比均大幅增长。 海外进口商家备货总量同比增长50%,国内商家热门产品备货总量同比增长5%。

    06-18

  • 又热又热! 2024年6大低代码趋势

    又热又热! 2024年6大低代码趋势

    低代码正在成为企业应用开发的主流方式,数字化智能办公专家:兰灵整理了6大趋势供大家参考。 01 低代码正在重构软件行业。 数字化转型正在从CIO话题转变为CEO话题,更多个性化需求不断涌现。 兰陵软件董事长杨健伟表示,CEO关心的是核心竞争力、系统集成、战略和执行力,这些

    06-18

  • 可能是全球最快手机 vivo Xplay5日系小清新图赏

    可能是全球最快手机 vivo Xplay5日系小清新图赏

    可能是全球最抢手的手机vivo热门机型,线上线下都深受用户欢迎。 该机极致的外观和顶级的配置也成为了今年所有旗舰手机的标杆。 那么,这款机器是如何征服如此多挑剔的消费者和用户的呢?今天,日本清新美女用她自己的方式带我们领略Vivo Xplay5的风格。 全球首次将双曲面屏幕

    06-18