首页 > 科技动态 > 内容

摩尔线程携手无问芯穹:0对1端到端大模型训练在国产GPU上首次突破

发布于:2024-06-17 编辑:匿名 来源:网络

摩尔线程与无问芯穹宣布双方近期正式完成3B大规模模型基于国产全功能GPU千卡集群的训练。

该型号被命名为“MT-infini-3B”。

在摩尔线程Kuae(KUAE)千卡智能计算集群和无问芯穹AIStudio PaaS平台(MT-infini-3B)上训练MT-infini-3B模型总共花费了13.2天。

经过精密调试,整个过程稳定。

训练不中断,集群训练稳定性达到90%,千卡训练扩展效率较单机超过90%。

目前,MT-infini-3B经过实际训练后的性能与国际主流硬件相比,在同规模模型中名列前茅。

在 MT-infini-3B 上训练的其他模型在 C-Eval、MMLU 和 C-MMLU 测试集上取得了领先的性能。

无问芯穹联合创始人和CEO夏立雪表示:“国产大机型、国产芯片的性能更好,软硬件协同开发的最终目标是构建成熟的生态系统。

无问芯穹正在打造‘M×N’的中间层产品在“M种模型”和“N种芯片”之间实现多种大模型算法在多芯片上高效统一部署,是国内第一家接入无问芯穹并进行千卡级大模型训练的公司。

‘MT-infini-3B’的训练是业界首次实现基于国产GPU芯片从0到100%的端到端大模型训练案例。

”摩尔线程创始人兼CEO张建中表示:“无问芯穹在夸鹅钱卡智能计算集群上实现的从无到有的大模型训练,不仅是摩尔线程技术实力的展现,凭借强大的认证,它已经还实现了国内大模型训练闭环,摩尔线程酷鹅1000卡智能计算集群基于全功能GPU,提供软硬件一体化的全栈解决方案,具有高兼容性、高稳定性。

凭借灵活性、高扩展性等综合优势,致力于成为AGI时代大模型训练的坚实可靠的先进基础设施,此前Moore Threads与无问芯穹大模型达成了深度战略合作。

开发与服务平台“吴琼Infini-AI”和摩尔线程大模型智能计算千卡集群酷鹅已完成系统级集成适配。

该平台可以灵活利用快鹅的集群能力完成大型模型的训练、微调和推理任务。

未来,双方还将进行更多的适配和测试,推动国内大规模模型技术的快速发展和应用普及,为我国人工智能产业的蓬勃发展做出贡献。

关于无问芯穹 无问芯穹(Infinigence AI)依托业界领先且经过验证的人工智能计算优化能力和算法。

强大的解决方案,追求大模型实现的极致能效。

在“M类模型”与“N类芯片”之间打造“M×N”个中间层产品,实现多种大模型算法在多芯片上的高效统一部署。

链接上下游,共同构建AGI时代大规模模型基础设施,加速AGI在千行百业的落地。

关于Moore Thread Moore Thread是一家专注于全功能GPU芯片设计的集成电路高科技公司。

它可以为广泛的技术生态合作伙伴提供强大的计算加速能力,致力于打造为下一代互联网提供多样化算力的元素。

摩尔线程携手无问芯穹:0对1端到端大模型训练在国产GPU上首次突破

计算平台。

雷锋网(公众号:雷锋网)雷锋网版权文章未经授权禁止转载。

详情请参见转载说明。

摩尔线程携手无问芯穹:0对1端到端大模型训练在国产GPU上首次突破

站长声明

版权声明:本文内容由互联网用户自发贡献,本站不拥有所有权,不承担相关法律责任。如果发现本站有涉嫌抄袭的内容,欢迎发送邮件 举报,并提供相关证据,一经查实,本站将立刻删除涉嫌侵权内容。

标签:

相关文章

  • 兆冠电子获数亿元C轮融资,工银资本

    兆冠电子获数亿元C轮融资,工银资本

    投资圈(ID:pedaily)领投 据6月6日消息,兆冠电子(英文名:NextVPU,以下简称“兆冠电子”) “兆冠电子”宣布获得工银资本管理有限公司管理的上海产业技术创新基金数亿元C轮融资,募集资金将用于开拓全球市场、拓展大算力产品线并引进高端人才,进一步打造具有国际竞争力

    06-17

  • 肯德基木勺被诟病上热搜,为何人们对“环保”越来越不感兴趣?

    肯德基木勺被诟病上热搜,为何人们对“环保”越来越不感兴趣?

    因为一把勺子,肯德基上了微博热搜,并被上热搜批评。 今年限塑令正式实施后,肯德基将汤勺换成了新型环保木勺。 就出现了这个问题。 因为勺子的弧度太小,所以盛不了多少汤,一次只能盛几滴。 另外,勺子没有涂层,所以汤很容易渗入勺子里,使消费体验变差。 冰冻三尺非一日

    06-21

  • 台积电宣布投资250亿美元开发5纳米制造工艺

    台积电宣布投资250亿美元开发5纳米制造工艺

    腾讯科技中国台湾的台积电是全球排名第一的半导体代工公司,占据一半的市场份额。 台积电凭借卓越的半导体制造技术成为行业巨头。 据外媒最新消息,该公司近日宣布将投资1亿美元开发5纳米制造工艺。 据路透社报道,台积电于 6 月 21 日宣布了这一消息。 不过,该公司并未提供

    06-06

  • H&M一季度销售额和毛利率下滑,中国市场销售额排名第三

    H&M一季度销售额和毛利率下滑,中国市场销售额排名第三

    财报显示,一季度H&M集团净销售额为6000万瑞典克朗,同比下降27%;毛利润约为。 6亿瑞典克朗,同比下降32%;毛利率为47.6%,去年同期为51%;期内亏损10.7亿瑞典克朗,而去年同期录得利润19.28亿瑞典克朗。

    06-18

  • 相信技术的力量,相信市场的力量,相信信仰的力量 -年终支点

    相信技术的力量,相信市场的力量,相信信仰的力量 -年终支点

    岁末年初,随着疫情封锁这一影响经济发展最不确定因素的解除,以及新时代的确立等一系列政策的支持,经济复苏的确定性国内经济方向逐渐增强。 当政策给予支持、市场活力释放、营商环境更加明朗时,我们看到2020年国内经济复苏向好的迹象。 但如何适应新时代要求,把握市场关键

    06-17

  • 国金证券董秘回应京东收购股权传闻:消息不实,将发布正式公告

    国金证券董秘回应京东收购股权传闻:消息不实,将发布正式公告

    国金证券董秘正式回应。 经公司向控股股东了解,证实该消息不实。 对于该不实信息,公司将发布正式公告,一切信息以公司相关公告为准。

    06-18

  • 使用互补测量技术检测裸硅晶圆上的低水平金属污染物

    使用互补测量技术检测裸硅晶圆上的低水平金属污染物

    《半导体芯科技》4/5 月刊,“使用补充测量技术检测裸硅晶圆上的低水平金属污染物”作者:Lamoureux Violette 、Figarols Fran?ois、Pic Nicolas、Vitrani Thomas、意法半导体半导体行业对产品质量和生产环境的清洁度要求很高。 金属污染对芯片有害,因此应避免裸晶圆上的金属

    06-06

  • 在海洋被“俘虏”之前我们还能做什么?

    在海洋被“俘虏”之前我们还能做什么?

    2016年,第一个“世界地球日”诞生。 ▲2016年,纽约人民在“世界地球日”上街呼吁人们关心地球。 同年,“阿波罗十三号”在全人类的祝福下成功升空。 然而,氧气罐的爆炸对飞船造成了严重损坏。 虽然最终成功返回地球,但这也让人类开始思考太空竞赛的意义,并将人类的注意

    06-21

  • 工信部:跨周期调节,保持工业和信息化经济运行在合理区间

    工信部:跨周期调节,保持工业和信息化经济运行在合理区间

    新闻发言人与工信部运行监测协调局局长罗俊杰表示,当前外部环境依然复杂多变,工业和信息化发展面临不稳定因素,不确定因素依然较多,特别是近期受疫情、洪水形势影响,原材料价格上涨,能源供应紧张,芯片短缺等问题,三季度工业增速稳步放缓,经济下行压力加大。 我们将坚

    06-18

  • 声网宣布收购客服云服务商欢信

    声网宣布收购客服云服务商欢信

    投资社区(ID:pedaily)1月28日消息,实时互动云服务先行者声网、领导者声网宣布收购中国领先的即时通讯云与客服云服务提供商Easemob已达成最终协议,交易预计将于今年第一季度完成。 收购完成后,双方将在产品层面进行深度整合。 基于声网在RTC领域和环信在即时通讯(IM)领

    06-17

  • 大安基因年报:2020年净利润同比增长2557%,拟5.5元送10个送6个

    大安基因年报:2020年净利润同比增长2557%,拟5.5元送10个送6个

    大安基因发布年报,全年营业收入53.41亿元,同比增长.35%;归属于母公司净利润24.49亿元,同比增长0.8%;基本每股收益为2.元。 拟向全体股东每10股派发现金红利5.5元(含税),送红股6股(含税)。

    06-18

  • 鼎力股份18亿收购丰悦环保久银基金,获得巨额回报

    鼎力股份18亿收购丰悦环保久银基金,获得巨额回报

    停牌近三个月的鼎力股份上周五收盘后发布公告称,拟收购丰悦环保18亿。 受此消息刺激,公司股票14日复牌涨停,交易价格10.85元,涨幅10.04%。   鼎力股份4月12日公告,拟通过发行股票及支付现金的方式购买丰跃环保%股权,并发行股票募集配套资金。   丰悦环保成立于今年6

    06-17