从算力、数据到算法，产投研各方共同探讨加速AI医药落地的关键路径 -云谷创新讲座
06-18
“太疯狂了，彻底疯狂了！” “这是什么？泰勒·斯威夫特的演唱会？”当地时间3月18日中午，美国加州圣何塞市SAP体育中心，容纳1万多人的冰球馆座无虚席。
这是2016年NVIDIA GTC大会的场景，人们等待的不是一位1.80米的白人女演员，而是一位穿着皮夹克的中年亚洲男性——NVIDIA创始人和CEO黄仁勋。
15个月内，其市值飙升6倍，超过2万亿美元，成为继苹果和微软之后的全球第三大科技公司，而且增长仍看不到天花板——是的，从某种意义上说，特殊黄仁勋可能比斯威夫特更像“摇滚明星”。
GTC时隔5年再次线下回归，会场爆满。
一开始，老黄开玩笑说：“你要意识到，这不是一场音乐会，而是一场开发者大会。
”面对“粉丝”的热烈欢呼，黄仁勋也用调侃作为开场白。
很难想象一个会议能够容纳来自如此多不同行业背景的人们，从气候技术到无线电科学，从机器人技术到自动驾驶，从 IT 到非 IT 领域。
“坐在这个会场的你、我和他代表了世界上一个万亿美元的产业。
” 正是 AI 将如此多的行业与 NVIDIA 连接起来。
以大语言模型为核心的AI正在席卷几乎所有行业，NVIDIA为各行各业的AI转型提供计算引擎。
两万亿美元的市值如何“变现”？如何利用算力继续推动AI新浪潮？更重要的是，NVIDIA如何才能成为“新计算时代”的王者？面对这些巨大的问题，今年的GTC大会对于英伟达来说显得尤为重要。
NVIDIA最新GPU产品系列|图片来源：Nvidia 在长达 2 小时的开幕演讲中，黄仁勋介绍了 NVIDIA 在当前爆炸性 AI 背后准备的新引擎：新计算架构下的硬件、软件和服务，点燃加速生成式 AI 应用的新生态系统：硬件方面，全新Blackwell架构GPU组成的GB“新核弹”将提供4倍于Hopper的训练性能，大模型参数达到万亿级。
在软件层面，NIM“Digital Box”让企业能够更轻松地在NVIDIA平台上定制大型模型； Omniverse将机器人、无人驾驶汽车和数字孪生的训练和应用集成到一个平台中。
从本次发布会可以看出，一方面，NVIDIA通过“新AI核弹”稳固了自己在“生成AI算力基础设施”方面的地位；另一方面，通过NIM、Omniverse进一步拓展产业链下游，力争将客户——大型模型公司逐步变成管道；同时，利用Thor+ Omniverse成为数字孪生、自动驾驶、机器人等新兴产业最重要的基础平台。
当他发布预测天气的 Earth-2 模型时，地球的卫星图像出现在黄仁勋身后。
“他的野心一直是整个地球，无论是物理的还是虚拟的。
”喜欢猜测的人可以写这样的注释。
Blackwell，专为变形金刚设计 过去10年，随着AI的世代发展，NVIDIA提供所需计算能力的速度也加快了。
现在，在生成式AI时代，NVIDIA计算平台进入了下一个周期——Blackwell。
这个新架构沿用了两年前推出的Hopper架构。
当黄仁勋在台上介绍新架构芯片的优点时，他开玩笑说：“这是布莱克威尔（左），这是霍珀（右），霍珀，没关系，你表现得很好。
”图片来源：Nvidia 与之前的 Hopper GPU 一样，Blackwell GPU 将作为独立 GPU 提供，或者两个 Blackwell GPU 可以组合并与 Nvidia 的 Grace CPU 配对以创建超级芯片 GB。
GB和AI芯片与之前架构的性能对比｜图片来源：Nvidia 作为一款超大规模芯片，GB通过GB/s超低功耗的芯片间互连将两个BGPU连接到Grace CPU。
Nvidia 表示，该系统可以部署具有 27 万亿个参数的模型。
这甚至比最大的模型（例如 GPT-4）还要大得多，据报道 GPT-4 有 1.7 万亿个参数。
为了获得超高的 AI 性能，GB 驱动的系统可以连接到 NVIDIA Quantum-X InfiniBand 和 Spectrum-X 以太网平台。
这两个平台都提供速度高达 Gb/s 的高性能网络。
黄仁勋拿着两套布莱克韦尔架构方案说道：“我得小心一点，这个值多少钱？几亿美元？当然第二个更便宜，大约50亿美元。
” |图片来源：Nvidia DGX GB 数据性能爆炸表|图片来源：Nvidia Nvidia还发布了GBNVL72液冷机架系统，其中包含36颗GBGrace Blackwell Superchips。
Nvidia 表示，与当前的 HGPU 相比，该系统的推理工作负载性能提高了 30 倍。
作为NVIDIA新的AI训练和推理领域的顶尖领导者，Blackwell GPU和GB超级芯片也将被引入云平台NVIDIA DGX B系统中，用于模型训练、微调和推理。
所有 NVIDIA DGX 平台均包含用于企业级开发和部署的 NVIDIA AI Enterprise 软件。
亚马逊、谷歌、微软和甲骨文将通过云服务出售千兆字节的访问权限。
定制大型模型更简单。
数据显示，在这一波AI浪潮中，NVIDIA提供的AI算力可能达到全部所需算力的90%甚至更高。
我们如何才能出售更多的算力？显然是让更多的企业使用大机型。
如果企业想要使用大型模型，通常需要进行微调和私有化部署来帮助其业务。
目前，这通常是通过部署模型的云供应商或小型服务提供商来完成的。
在本次发布会上，Nvidia 推出了自己的模型定制服务，Nvidia Inference Manager，简称 NIM，以便在 Nvidia 硬件可用的地方实现大型模型的简单调试和使用。
黄仁勋解释 NIM |图片来源：Nvidia NIM被描述为一个数字盒子，可以从Nvidia提供的网站下载和使用。
盒子里装着一些必需品。
第一个是基本的大模型。
有多种相关型号可供选择。
黄仁勋提到，其中包括 Llama 等开源模型、来自合作伙伴的模型，也包括 NVIDIA 自己创建的一些模型——例如 NVIDIA 刚刚在 GTC 上宣布了一个新的天气预报模型。
据NVIDIA称，它们已经基于NVIDIA硬件进行了优化。
无论您的硬件是只有一个CPU的笔记本电脑，还是具有多个GPU节点的公司级设备，您都可以直接使用。
第二个是可以帮助用户微调大型模型（包括多个微服务）的工具。
例如，NVIDIA在11月份宣布的NVIDIA NeMo Retriever技术，集成到整个微服务中，可以帮助企业启用RAG功能——只是为了帮助企业更好地使用自己的专有数据。
黄仁勋在演讲中举了一个例子：当他只下载Llama 2模型时，他向Llama2询问有关公司独特编程语言的问题，而Llama 2无法很好地回答。
将公司的私有数据提供给大模型后，大模型不仅可以回答这个问题，还可以使用公司特有的编程语言进行编程。
学习了公司数据的大模型可以帮助企业提高效率 |图片来源：Nvidia 除了 RAG 增强之外，还有一系列微服务可以帮助用户使用大型模型。
包括Lemo检索器、快速检索帮助信息、数字人微服务、帮助用户创建数字人等都包含在微服务中。
“未来我们将如何构建软件？它不应该是一行一行地编写的。
”黄仁勋表示，“很有可能超级人工智能会把任务分解，然后一一交给NIM。
”这样的NIM，可以安装在任何NVIDIA硬件兼容的地方。
例如，NVIDIA 的 DGX 系统、任何云、企业的私有数据中心或个人硬件。
黄仁勋在演讲中直接表示：“我们是一家AI代工厂。
”该微服务现已可供开发者免费试用。
另一方面，企业则需要企业软件订阅，此前有报道称，每年每个 GPU 的费用为 1 美元。
“现实AI”：数字仓库和机器人 NVIDIA 正在认真推动计算能力和算力的使用。
NVIDIA 在二十年前创建了 CUDA，并推动了加速计算。
今天的丰硕成果，源于二十年前播下的种子。
一开始，黄仁勋回顾20年前，半开玩笑地说：“那时候，我们就已经算到了今天。
”黄仁勋看到了什么样的未来？ 在今天的GTC上，我们也窥见了黄仁勋眼中的未来：在世界的最底层，有无限的扩张，有取之不竭的算力。
中间是数字孪生、模拟和对计算的依赖。
计算能力带来的对物理世界的无限精确的模仿、实验和预测。
在上层，有一个依靠计算能力来实现最优解决方案的世界——一个人类和机器人共存的世界。
第一次发生的事情已经发生过无数次了。
其中，NVIDIA于2008年推出的Omniverse是中间层非常重要的工具。
Omniverse是NVIDIA所擅长的计算机图形、人工智能、科技计算和物理模拟的真正统一平台，可以实现环境的1:1数字孪生。
在本次大会上，结合人工智能浪潮，Omniverse展示了许多新的应用可能性。
Omniverse 可以为最流行的具身智能提供训练场。
该公司表示，Nvidia 构建了 Isaac Lab，这是一款机器人学习应用程序，用于在 Omniverse Isaac 模拟器上进行培训。
借助新的计算编排服务，机器人可以接受基于物理的模拟训练，并通过零样本训练迁移到现实环境。
该机器人模型将使机器人能够从少量的人类演示中学习，从视频中了解人类，在模拟中训练模型，并最终直接部署到物理机器人上。
黄仁勋还在新闻发布会上宣布了GR00T项目。
GR00T是人形机器人的通用基础模型，基于Jetson Thor（NVIDIA的GPU）开发生产机器人。
黄仁勋与人形机器人“站在一起”，其中有一些来自中国企业 |图片来源：Nvidia 此外，Nvidia还展示了数字仓库的案例。
数字仓库感知并规划人类和机器人的路线｜图片来源：Nvidia 视频中展示了 10 万平方英尺仓库的 Omniverse 模拟环境，该环境集成了数字工人 AMR 运行视频、Isaac 传感器堆栈和数据来自个人电脑。
使用吸顶式摄像机等模拟整个仓库的集中活动地图。
视频中，数字工作者AMR的计划路线发生事故，堵塞了路径。
NVIDIA Metropolis 可以实时更改路线计划。
借助基于生成式人工智能的 Metropolis Vision Foundation 模型，操作员甚至可以使用自然语言询问发生了什么。
在本次GTC上，Nvidia宣布将为Omniverse Cloud创建一个API，该API将非常易于使用，使企业更容易使用Omniverse，并且还将具有AI能力。
例如，自然语言场景描述可以直接用于创建模拟环境的 3D 图像。
与此同时，Nvidia 宣布与 Vision Pro 建立合作伙伴关系，Omniverse Cloud 将能够向 Vision Pro 进行流传输。
“从虚拟汽车上下来，走进门的感觉很奇怪，但也很棒。
”黄仁勋表示，“Vision Pro将带你进入Omniverse Cloud，你可以体验到无与伦比的工作流程。
“超过 10,000 人现场观看 Keynote、会场上方分享以及数百家参展商，2018 GTC 被戏称为“AI 界的伍德斯托克”——除了苹果，很少有公司能够将科技变成人人都想要的时尚毕竟，在“生成式人工智能”代表未来的时代，每个人都想成为跟上这一趋势的人，而英伟达无疑是这一趋势背后的最大推动者之一。
也是目前最大的受益者，它要做的就是为大家提供更大的梦想和更多的算力。
顺便说一句，它可能已经成为全球市值最高的公司之一了。
创新创业#创业支持#创业资讯我们关注国内外最热门的创新创业动态，提供一站式资讯服务，实时传递行业热点新闻、深度评论和前瞻观点，帮助创业者掌握新兴技术。
趋势和行业变化，以及对未来技术趋势的洞察。
版权声明：本文内容由互联网用户自发贡献，本站不拥有所有权，不承担相关法律责任。如果发现本站有涉嫌抄袭的内容，欢迎发送邮件 举报，并提供相关证据，一经查实，本站将立刻删除涉嫌侵权内容。
标签：
相关文章
06-18
06-18
06-17
06-06
06-18
06-18
最新文章
Android旗舰之王的过去与未来
智能手表不被开发、AR眼镜被推迟，Meta的产品经历了一波三折
为什么Cybertruck是特斯拉史上最难造的车？
更新鸿蒙3后，文杰允许你在车里做PPT了
新起亚K3试驾体验：追求“性价比”，韩系汽车仍不想放弃
阿维塔15登场！汽车配备了增程动力，理想情况下会迎来新的对手吗？
马斯克宣布创建 ChatGPT 竞争对手！ OpenAI的CEO给他泼了冷水， GPT-5可能会发生巨大变化
骁龙无处不在，是平台也是生态