首页 > 科技动态 > 内容

摩尔线程携手无问芯穹:0对1端到端大模型训练在国产GPU上首次突破

发布于:2024-06-17 编辑:匿名 来源:网络

摩尔线程与无问芯穹宣布双方近期正式完成3B大规模模型基于国产全功能GPU千卡集群的训练。

该型号被命名为“MT-infini-3B”。

在摩尔线程Kuae(KUAE)千卡智能计算集群和无问芯穹AIStudio PaaS平台(MT-infini-3B)上训练MT-infini-3B模型总共花费了13.2天。

经过精密调试,整个过程稳定。

训练不中断,集群训练稳定性达到90%,千卡训练扩展效率较单机超过90%。

目前,MT-infini-3B经过实际训练后的性能与国际主流硬件相比,在同规模模型中名列前茅。

在 MT-infini-3B 上训练的其他模型在 C-Eval、MMLU 和 C-MMLU 测试集上取得了领先的性能。

无问芯穹联合创始人和CEO夏立雪表示:“国产大机型、国产芯片的性能更好,软硬件协同开发的最终目标是构建成熟的生态系统。

无问芯穹正在打造‘M×N’的中间层产品在“M种模型”和“N种芯片”之间实现多种大模型算法在多芯片上高效统一部署,是国内第一家接入无问芯穹并进行千卡级大模型训练的公司。

‘MT-infini-3B’的训练是业界首次实现基于国产GPU芯片从0到100%的端到端大模型训练案例。

”摩尔线程创始人兼CEO张建中表示:“无问芯穹在夸鹅钱卡智能计算集群上实现的从无到有的大模型训练,不仅是摩尔线程技术实力的展现,凭借强大的认证,它已经还实现了国内大模型训练闭环,摩尔线程酷鹅1000卡智能计算集群基于全功能GPU,提供软硬件一体化的全栈解决方案,具有高兼容性、高稳定性。

凭借灵活性、高扩展性等综合优势,致力于成为AGI时代大模型训练的坚实可靠的先进基础设施,此前Moore Threads与无问芯穹大模型达成了深度战略合作。

开发与服务平台“吴琼Infini-AI”和摩尔线程大模型智能计算千卡集群酷鹅已完成系统级集成适配。

该平台可以灵活利用快鹅的集群能力完成大型模型的训练、微调和推理任务。

未来,双方还将进行更多的适配和测试,推动国内大规模模型技术的快速发展和应用普及,为我国人工智能产业的蓬勃发展做出贡献。

关于无问芯穹 无问芯穹(Infinigence AI)依托业界领先且经过验证的人工智能计算优化能力和算法。

强大的解决方案,追求大模型实现的极致能效。

在“M类模型”与“N类芯片”之间打造“M×N”个中间层产品,实现多种大模型算法在多芯片上的高效统一部署。

链接上下游,共同构建AGI时代大规模模型基础设施,加速AGI在千行百业的落地。

关于Moore Thread Moore Thread是一家专注于全功能GPU芯片设计的集成电路高科技公司。

它可以为广泛的技术生态合作伙伴提供强大的计算加速能力,致力于打造为下一代互联网提供多样化算力的元素。

摩尔线程携手无问芯穹:0对1端到端大模型训练在国产GPU上首次突破

计算平台。

雷锋网(公众号:雷锋网)雷锋网版权文章未经授权禁止转载。

详情请参见转载说明。

摩尔线程携手无问芯穹:0对1端到端大模型训练在国产GPU上首次突破

站长声明

版权声明:本文内容由互联网用户自发贡献,本站不拥有所有权,不承担相关法律责任。如果发现本站有涉嫌抄袭的内容,欢迎发送邮件 举报,并提供相关证据,一经查实,本站将立刻删除涉嫌侵权内容。

标签:

相关文章

  • 证监会副主席主席阎庆民:资本市场大力支持科技创新

    证监会副主席主席阎庆民:资本市场大力支持科技创新

    对于资本市场支持科技创新,证监会副主席主席阎庆民表示,党的十九届五中全会中央和中央经济工作会议都强调“自力更生、科技自力更生”。 资本市场大力服务科技创新。 除科??创板外,包括先进制造、智能制造、新能源、新信息技术等在内的未来科技进步将是重点。 资本市场离不

    06-17

  • 欧盟委员会提出应对气候变化一揽子计划提案

    欧盟委员会提出应对气候变化一揽子计划提案

    欧盟委员会14日提出应对气候变化一揽子计划提案,目标是到2020年欧盟温室气体净排放量较2012年水平减少至少55% 。 碳中和。 欧盟委员会当天公布的提案涉及交通、能源、建筑、农业和税收政策,其中包括收紧现有的碳排放交易体系;增加可再生能源的使用;减少对化石能源的依赖;

    06-08

  • Facebook打造蓝筹企业,制定IPO计划推进上市

    Facebook打造蓝筹企业,制定IPO计划推进上市

    北京时间12月22日消息。 据网络版《华尔街日报》周三撰写的文章称,从创始人、CEO扎克伯格到内部员工,Facebook正在努力向外界传递信号。 也就是说,Social 巨头 是一家蓝筹企业。 更重要的是,Facebook一直在效仿其他科技巨头的榜样,用审慎、有条理的管理方法,将其打造成一

    06-18

  • 女性太空行走因“衣服不够”被取消后,NASA开发了定制宇航服

    女性太空行走因“衣服不够”被取消后,NASA开发了定制宇航服

    虽然科技发展很快,但在探索浩瀚宇宙时,人类只能“摸着石头过河”。 2020年3月,大家都在期待NASA(美国国家航空航天局)此前宣布的“全女性太空漫步”计划的实现。 原定于3月29日,女性宇航员安妮麦克莱恩(安妮麦克莱恩饰)和克里斯蒂娜科赫(克里斯蒂娜科赫饰)将进行一次

    06-21

  • 鼎力公司治理获上海新金融研究院股权投资

    鼎力公司治理获上海新金融研究院股权投资

    据投资界8月24日消息,据36氪报道,鼎力公司治理今日正式宣布获得上海新金融研究院直接股权投资研究所。 本轮投资方上海金融研究院(SFI)是一家从事新金融和国际金融领域政策研究的非官方、非营利性专业金融智库。 鼎力成立于2007年,是一家专注于中国资本市场的公司治理与

    06-18

  • 雪浪环境上市 博信一期基金、江苏金茂经信创投等退出

    雪浪环境上市 博信一期基金、江苏金茂经信创投等退出

    雪浪环境挂牌上市。 博信一期基金、江苏金茂晶鑫创投等退出。 2019年6月26日,无锡雪浪环境科技股份有限公司在深圳创业板挂牌上市。 无锡雪浪环境科技有限公司成立于。 无锡雪浪环境科技有限公司成立于2007年,总部位于江苏省无锡市。 公司是一家集垃圾焚烧处理、除尘输灰、烟

    06-17

  • 华砺智行获得数千万元Pre-A轮融资

    华砺智行获得数千万元Pre-A轮融资

    据投资界3月20日消息,据36氪了解,华砺智行已完成数千万元Pre-A轮融资。 投资方为新中利和上汽资本。 据了解,本轮募集资金将主要用于技术研发和市场拓展。 公开资料显示,华砺智行成立于2006年,是一家专门从事V2X车联网智能终端及智能交通行业应用研发的公司。 公司开发了

    06-17

  • 继5年前警告病毒危机后,比尔·盖茨再次发声:美国太无能,反对“中国病毒”,

    继5年前警告病毒危机后,比尔·盖茨再次发声:美国太无能,反对“中国病毒”,

    64岁的比尔盖茨从来没有闲着。 就在2017年3月24日,比尔盖茨作为商业领袖和慈善家出现在Ted Connect广播节目中,公开讨论了他对当前应对疫情的看法。 2月28日,比尔盖茨还在美国社交新闻网站Reddit的“Ask Me Anything”专栏中就新型冠状病毒(COVID-19)进行了问答,讨论了中

    06-17

  • 盖亚工场完成1.3亿元B+轮融资,华平领投,经纬创投、元生资本跟投

    盖亚工场完成1.3亿元B+轮融资,华平领投,经纬创投、元生资本跟投

    据投资界8月22日消息,盖亚工场宣布完成1.3亿元B+轮融资。 本轮融资由美国华平投资集团领投,早期投资者经纬创投、元生资本跟投。 据悉,本轮融资将用于大力升级产品和服务体系,提前布局下一代劳动力市场的产品和服务,深化连接企业、员工和合作伙伴的战略,加速业务扩张。

    06-18

  • 文档管理平台“一方云”获840万美元A+轮融资,快的创始人陈卫星领投

    文档管理平台“一方云”获840万美元A+轮融资,快的创始人陈卫星领投

    NewSeed新闻11月21日,企业文档管理与协作云平台“一方云”近日宣布,已筹集1万美元A+轮融资,由快的打车创始人陈卫星领投,联华资本、光速中国、经纬中国跟投。 易方云于今年5月获得经纬中国1万元天使轮融资,同年8月获得光速中国1万元A轮融资。 一帆云成立于2019年12月,专

    06-18

  • 滴滴顺风下线325天:公布产品方案征求公众意见,但仍无具体上线时间

    滴滴顺风下线325天:公布产品方案征求公众意见,但仍无具体上线时间

    据投资界7月18日消息,滴滴顺风召开首场媒体发布会下线并宣布整改后开放日 期间分阶段安全产品计划。 该计划的重点是回归搭便车的“真正搭便车”本质,“让搭便车更真实、更顺畅、更安全”。 此次,搭便车还独家推出了女性专属保护计划,并承诺将继续与外界公开、透明地沟通

    06-18

  • 据悉,SEC认为Facebook上市首日交易失败是技术问题

    据悉,SEC认为Facebook上市首日交易失败是技术问题

    5月31日消息,据外媒《华尔街日报》报道,备受争议的Facebook IPO目前正在接受美国审查监管部门。 一位知情人士表示,监管部门目前认为,Facebook在纳斯达克股市上市首日遭遇的延误和交易失败属于技术故障,而非行业规则错误。   该知情人士还表示,审核完成后,美国证券交

    06-18