首页 > 科技未来 > 内容

NVIDIA推出“万亿参数”GPU,继续加速“AGI时代”

发布于:2024-06-18 编辑:匿名 来源:网络

“太疯狂了,彻底疯狂了!” “这是什么?泰勒·斯威夫特的演唱会?”当地时间3月18日中午,美国加州圣何塞市SAP体育中心,容纳1万多人的冰球馆座无虚席。

这是2016年NVIDIA GTC大会的场景,人们等待的不是一位1.80米的白人女演员,而是一位穿着皮夹克的中年亚洲男性——NVIDIA创始人和CEO黄仁勋。

15个月内,其市值飙升6倍,超过2万亿美元,成为继苹果和微软之后的全球第三大科技公司,而且增长仍看不到天花板——是的,从某种意义上说,特殊黄仁勋可能比斯威夫特更像“摇滚明星”。

GTC时隔5年再次线下回归,会场爆满。

一开始,老黄开玩笑说:“你要意识到,这不是一场音乐会,而是一场开发者大会。

”面对“粉丝”的热烈欢呼,黄仁勋也用调侃作为开场白。

很难想象一个会议能够容纳来自如此多不同行业背景的人们,从气候技术到无线电科学,从机器人技术到自动驾驶,从 IT 到非 IT 领域。

“坐在这个会场的你、我和他代表了世界上一个万亿美元的产业。

” 正是 AI 将如此多的行业与 NVIDIA 连接起来。

以大语言模型为核心的AI正在席卷几乎所有行业,NVIDIA为各行各业的AI转型提供计算引擎。

两万亿美元的市值如何“变现”?如何利用算力继续推动AI新浪潮?更重要的是,NVIDIA如何才能成为“新计算时代”的王者?面对这些巨大的问题,今年的GTC大会对于英伟达来说显得尤为重要。

NVIDIA推出“万亿参数”GPU,继续加速“AGI时代”

NVIDIA最新GPU产品系列|图片来源:Nvidia 在长达 2 小时的开幕演讲中,黄仁勋介绍了 NVIDIA 在当前爆炸性 AI 背后准备的新引擎:新计算架构下的硬件、软件和服务,点燃加速生成式 AI 应用的新生态系统:硬件方面,全新Blackwell架构GPU组成的GB“新核弹”将提供4倍于Hopper的训练性能,大模型参数达到万亿级。

在软件层面,NIM“Digital Box”让企业能够更轻松地在NVIDIA平台上定制大型模型; Omniverse将机器人、无人驾驶汽车和数字孪生的训练和应用集成到一个平台中。

从本次发布会可以看出,一方面,NVIDIA通过“新AI核弹”稳固了自己在“生成AI算力基础设施”方面的地位;另一方面,通过NIM、Omniverse进一步拓展产业链下游,力争将客户——大型模型公司逐步变成管道;同时,利用Thor+ Omniverse成为数字孪生、自动驾驶、机器人等新兴产业最重要的基础平台。

当他发布预测天气的 Earth-2 模型时,地球的卫星图像出现在黄仁勋身后。

“他的野心一直是整个地球,无论是物理的还是虚拟的。

”喜欢猜测的人可以写这样的注释。

Blackwell,专为变形金刚设计 过去10年,随着AI的世代发展,NVIDIA提供所需计算能力的速度也加快了。

现在,在生成式AI时代,NVIDIA计算平台进入了下一个周期——Blackwell。

这个新架构沿用了两年前推出的Hopper架构。

当黄仁勋在台上介绍新架构芯片的优点时,他开玩笑说:“这是布莱克威尔(左),这是霍珀(右),霍珀,没关系,你表现得很好。

”图片来源:Nvidia 与之前的 Hopper GPU 一样,Blackwell GPU 将作为独立 GPU 提供,或者两个 Blackwell GPU 可以组合并与 Nvidia 的 Grace CPU 配对以创建超级芯片 GB。

GB和AI芯片与之前架构的性能对比|图片来源:Nvidia 作为一款超大规模芯片,GB通过GB/s超低功耗的芯片间互连将两个BGPU连接到Grace CPU。

Nvidia 表示,该系统可以部署具有 27 万亿个参数的模型。

这甚至比最大的模型(例如 GPT-4)还要大得多,据报道 GPT-4 有 1.7 万亿个参数。

为了获得超高的 AI 性能,GB 驱动的系统可以连接到 NVIDIA Quantum-X InfiniBand 和 Spectrum-X 以太网平台。

这两个平台都提供速度高达 Gb/s 的高性能网络。

黄仁勋拿着两套布莱克韦尔架构方案说道:“我得小心一点,这个值多少钱?几亿美元?当然第二个更便宜,大约50亿美元。

” |图片来源:Nvidia DGX GB 数据性能爆炸表|图片来源:Nvidia Nvidia还发布了GBNVL72液冷机架系统,其中包含36颗GBGrace Blackwell Superchips。

Nvidia 表示,与当前的 HGPU 相比,该系统的推理工作负载性能提高了 30 倍。

作为NVIDIA新的AI训练和推理领域的顶尖领导者,Blackwell GPU和GB超级芯片也将被引入云平台NVIDIA DGX B系统中,用于模型训练、微调和推理。

所有 NVIDIA DGX 平台均包含用于企业级开发和部署的 NVIDIA AI Enterprise 软件。

亚马逊、谷歌、微软和甲骨文将通过云服务出售千兆字节的访问权限。

定制大型模型更简单。

数据显示,在这一波AI浪潮中,NVIDIA提供的AI算力可能达到全部所需算力的90%甚至更高。

我们如何才能出售更多的算力?显然是让更多的企业使用大机型。

如果企业想要使用大型模型,通常需要进行微调和私有化部署来帮助其业务。

目前,这通常是通过部署模型的云供应商或小型服务提供商来完成的。

在本次发布会上,Nvidia 推出了自己的模型定制服务,Nvidia Inference Manager,简称 NIM,以便在 Nvidia 硬件可用的地方实现大型模型的简单调试和使用。

黄仁勋解释 NIM |图片来源:Nvidia NIM被描述为一个数字盒子,可以从Nvidia提供的网站下载和使用。

盒子里装着一些必需品。

第一个是基本的大模型。

有多种相关型号可供选择。

黄仁勋提到,其中包括 Llama 等开源模型、来自合作伙伴的模型,也包括 NVIDIA 自己创建的一些模型——例如 NVIDIA 刚刚在 GTC 上宣布了一个新的天气预报模型。

据NVIDIA称,它们已经基于NVIDIA硬件进行了优化。

无论您的硬件是只有一个CPU的笔记本电脑,还是具有多个GPU节点的公司级设备,您都可以直接使用。

第二个是可以帮助用户微调大型模型(包括多个微服务)的工具。

例如,NVIDIA在11月份宣布的NVIDIA NeMo Retriever技术,集成到整个微服务中,可以帮助企业启用RAG功能——只是为了帮助企业更好地使用自己的专有数据。

黄仁勋在演讲中举了一个例子:当他只下载Llama 2模型时,他向Llama2询问有关公司独特编程语言的问题,而Llama 2无法很好地回答。

将公司的私有数据提供给大模型后,大模型不仅可以回答这个问题,还可以使用公司特有的编程语言进行编程。

学习了公司数据的大模型可以帮助企业提高效率 |图片来源:Nvidia 除了 RAG 增强之外,还有一系列微服务可以帮助用户使用大型模型。

包括Lemo检索器、快速检索帮助信息、数字人微服务、帮助用户创建数字人等都包含在微服务中。

“未来我们将如何构建软件?它不应该是一行一行地编写的。

”黄仁勋表示,“很有可能超级人工智能会把任务分解,然后一一交给NIM。

”这样的NIM,可以安装在任何NVIDIA硬件兼容的地方。

例如,NVIDIA 的 DGX 系统、任何云、企业的私有数据中心或个人硬件。

黄仁勋在演讲中直接表示:“我们是一家AI代工厂。

”该微服务现已可供开发者免费试用。

另一方面,企业则需要企业软件订阅,此前有报道称,每年每个 GPU 的费用为 1 美元。

“现实AI”:数字仓库和机器人 NVIDIA 正在认真推动计算能力和算力的使用。

NVIDIA 在二十年前创建了 CUDA,并推动了加速计算。

今天的丰硕成果,源于二十年前播下的种子。

一开始,黄仁勋回顾20年前,半开玩笑地说:“那时候,我们就已经算到了今天。

”黄仁勋看到了什么样的未来? 在今天的GTC上,我们也窥见了黄仁勋眼中的未来:在世界的最底层,有无限的扩张,有取之不竭的算力。

中间是数字孪生、模拟和对计算的依赖。

计算能力带来的对物理世界的无限精确的模仿、实验和预测。

在上层,有一个依靠计算能力来实现最优解决方案的世界——一个人类和机器人共存的世界。

第一次发生的事情已经发生过无数次了。

其中,NVIDIA于2008年推出的Omniverse是中间层非常重要的工具。

Omniverse是NVIDIA所擅长的计算机图形、人工智能、科技计算和物理模拟的真正统一平台,可以实现环境的1:1数字孪生。

在本次大会上,结合人工智能浪潮,Omniverse展示了许多新的应用可能性。

Omniverse 可以为最流行的具身智能提供训练场。

该公司表示,Nvidia 构建了 Isaac Lab,这是一款机器人学习应用程序,用于在 Omniverse Isaac 模拟器上进行培训。

借助新的计算编排服务,机器人可以接受基于物理的模拟训练,并通过零样本训练迁移到现实环境。

该机器人模型将使机器人能够从少量的人类演示中学习,从视频中了解人类,在模拟中训练模型,并最终直接部署到物理机器人上。

黄仁勋还在新闻发布会上宣布了GR00T项目。

GR00T是人形机器人的通用基础模型,基于Jetson Thor(NVIDIA的GPU)开发生产机器人。

黄仁勋与人形机器人“站在一起”,其中有一些来自中国企业 |图片来源:Nvidia 此外,Nvidia还展示了数字仓库的案例。

数字仓库感知并规划人类和机器人的路线|图片来源:Nvidia 视频中展示了 10 万平方英尺仓库的 Omniverse 模拟环境,该环境集成了数字工人 AMR 运行视频、Isaac 传感器堆栈和数据来自个人电脑。

使用吸顶式摄像机等模拟整个仓库的集中活动地图。

视频中,数字工作者AMR的计划路线发生事故,堵塞了路径。

NVIDIA Metropolis 可以实时更改路线计划。

借助基于生成式人工智能的 Metropolis Vision Foundation 模型,操作员甚至可以使用自然语言询问发生了什么。

在本次GTC上,Nvidia宣布将为Omniverse Cloud创建一个API,该API将非常易于使用,使企业更容易使用Omniverse,并且还将具有AI能力。

例如,自然语言场景描述可以直接用于创建模拟环境的 3D 图像。

与此同时,Nvidia 宣布与 Vision Pro 建立合作伙伴关系,Omniverse Cloud 将能够向 Vision Pro 进行流传输。

“从虚拟汽车上下来,走进门的感觉很奇怪,但也很棒。

”黄仁勋表示,“Vision Pro将带你进入Omniverse Cloud,你可以体验到无与伦比的工作流程。

“超过 10,000 人现场观看 Keynote、会场上方分享以及数百家参展商,2018 GTC 被戏称为“AI 界的伍德斯托克”——除了苹果,很少有公司能够将科技变成人人都想要的时尚毕竟,在“生成式人工智能”代表未来的时代,每个人都想成为跟上这一趋势的人,而英伟达无疑是这一趋势背后的最大推动者之一。

也是目前最大的受益者,它要做的就是为大家提供更大的梦想和更多的算力。

顺便说一句,它可能已经成为全球市值最高的公司之一了。

创新创业#创业支持#创业资讯我们关注国内外最热门的创新创业动态,提供一站式资讯服务,实时传递行业热点新闻、深度评论和前瞻观点,帮助创业者掌握新兴技术。

趋势和行业变化,以及对未来技术趋势的洞察。

NVIDIA推出“万亿参数”GPU,继续加速“AGI时代”

站长声明

版权声明:本文内容由互联网用户自发贡献,本站不拥有所有权,不承担相关法律责任。如果发现本站有涉嫌抄袭的内容,欢迎发送邮件 举报,并提供相关证据,一经查实,本站将立刻删除涉嫌侵权内容。

标签:

相关文章

  • 燕麦饮料如何改变地球这家公司要重新定义“牛奶”

    燕麦饮料如何改变地球这家公司要重新定义“牛奶”

    一家专门生产燕麦奶的公司已上市。 美国东部时间4月19日,瑞典品牌Oatly正式向美国证券交易委员会(SEC)提交招股说明书,申请在纳斯达克公开上市。 招股书显示,Oatly的承销商包括摩根士丹利、瑞士信贷、法国巴黎银行、巴克莱银行等多家机构,阵容非常豪华。 由于以燕麦奶起

    06-21

  • 字节跳动刚刚投资了虚拟女生

    字节跳动刚刚投资了虚拟女生

    ,今年首笔虚拟人融资已经出炉。 投资界获悉,杭州李未科技有限公司显示股东变更,新增字节跳动关联公司北京量子跃动科技有限公司。 今日,该公司正式确认本轮为李未首轮融资,字节跳动独家投资。 李未,这个有些陌生的名字,正是虚拟的女生。 她是由负责人茹忆创建的,前阿里

    06-18

  • 达达集团被纳入MSCI ACWI全球指数

    达达集团被纳入MSCI ACWI全球指数

    达达集团被纳入MSCI ACWI全球指数 5月份,国际指数编制公司MSCI(摩根士丹利资本国际)公布了该指数5月份季度调整结果。 其中,达达集团(纳斯达克股票代码:DADA)已被纳入MSCI ACWI全球指数,该指数将于5月27日收盘后生效。 作为全球最具影响力的股票指数,MSCI ACWI全球指

    06-17

  • 三叶草生物制药完成2.3亿美元C轮融资,高瓴创投、淡马锡共同领投

    三叶草生物制药完成2.3亿美元C轮融资,高瓴创投、淡马锡共同领投

    投资界(ID:pedaily)2月23日消息,专注于为全球严重疾病开发创新生物疗法和疫苗全球临床阶段生物制药公司三叶草生物制药股份有限公司(以下简称“三叶草生物”)宣布完成2.3亿美元C轮融资并获得超募。 本轮融资由高瓴创投、淡马锡联合领投,海松资本、奥博资本跟投,原股东

    06-18

  • 地球上最疯狂的独角兽,SpaceX估值8000亿

    地球上最疯狂的独角兽,SpaceX估值8000亿

    又一超级独角兽诞生。 本周,据美国证券交易所委员文件显示,马斯克运营的SpaceX刚刚完成新一轮17.2亿美元融资,估值高达1亿美元(约合人民币1亿元)。 由此,SpaceX成为全球第三大独角兽公司,仅次于字节跳动和蚂蚁集团。 SpaceX无疑是狂人和马斯克创造的又一个传奇。 这家他

    06-18

  • 【全球财经24小时】2023年8月7日投融资事件汇总及明细

    【全球财经24小时】2023年8月7日投融资事件汇总及明细

    今日全球市场共发生21起投资披露事件,其中境内20起,境外1起。 其中,国内先进制造业11例,医疗健康行业3例,体育产业1例,企业服务业1例,地方生活行业2例,医疗健康行业2例。 电子商务。 ,国外体育行业1例。 国内事件 1、腿老大获万元天使轮融资 腿老大是国民潮流零食品牌

    06-17

  • 阿里云创新中心系列白皮书之一的《2022年中国机器人产业图谱及云上发展研究报告》

    阿里云创新中心系列白皮书之一的《2022年中国机器人产业图谱及云上发展研究报告》

    机器人被誉为“制造业皇冠上的明珠”。 其研发、制造和应用是一个国家技术创新和高端制造水平的重要标志。 2000年之前,机器人感知能力较弱,主要通过预设的重复机械动作实现特定场景下的人工替代; 21世纪,随着传感器的大规模应用和多传感器信息融合技术的发展,机器人逐渐

    06-17

  • 海康威视:2020年净利润同比增长7.82%,拟每10块海康威视披露年报支付8元

    海康威视:2020年净利润同比增长7.82%,拟每10块海康威视披露年报支付8元

    公司全年实现营业总收入3亿元,比上年同期增长10.14%;实现净利润8600万元,较上年同期增长7.82%。 公司全年整体毛利率为46.53%,较上年同期上升0.54个百分点。 该公司计划报价8元10件。 今年一季度,公司实现营业收入8800万元,同比增长48.36%;净利润21.69亿元,同比增长44

    06-18

  • 苹果iOS 14.5最强大的更新功能就是它!

    苹果iOS 14.5最强大的更新功能就是它!

    都说互联网没有记忆,因为当热点过去后,它们就变成了灰尘。 但互联网也有记忆。 它记录了你所有的痕迹。 只需一行,您就可以找到有关您的一切。 这些所谓的“痕迹”就是您的个人数据,可以包括您的浏览习惯、偏好、停留时长、个人移动轨迹、位置信息,甚至身份信息、图片等更

    06-21

  • 走过半导体巨头孤独的世纪

    走过半导体巨头孤独的世纪

    在半导体行业的发展过程中,不少企业经历了兼并、收购、重组等变革。 因此,一些历史悠久的公司可能不再独立存在,而是成为其他大公司的附属公司。 部分。 与此同时,新的半导体公司不断涌现,未来可能成为行业领导者。 01 从制表机到世界名厂:“人才”IBM IBM的历史可以追

    06-17

  • 一家俄罗斯集团已开始在加里宁格勒建设一座 1.3GW 垂直一体化太阳能发电厂

    一家俄罗斯集团已开始在加里宁格勒建设一座 1.3GW 垂直一体化太阳能发电厂

    Unigreen Energy 是俄罗斯 Ream Management 的子公司,该公司持有俄罗斯光伏组件制造商 Hevel Solar 的控股权。 Unigreen Energy 已开始在位于波兰和立陶宛之间的俄罗斯飞地加里宁格勒建设垂直一体化太阳能组件发电厂。 “该发电厂的 n 型硅片产能为 1.3GW,太阳能电池产能为

    06-08

  • 小医物联获2000万元战略投资,海尔机构领投

    小医物联获2000万元战略投资,海尔机构领投

    据投资界1月9日消息,新三板公司小医物联公告称,公司拟发行不超过1万股股票价格为16元/股。 ,筹集不超过1万元。 海尔集团旗下青岛海尔科技投资有限公司参与新股认购。   小蚁物联网表示,本次募集资金将用于:1、产能扩张; 2、产品研发; 3、团队建设; 4. 营销。   

    06-18