首页 > 科技浪潮 > 内容

NVIDIA GPU 加速 AI 推理洞察,推动跨行业创新

发布于:2024-06-06 编辑:匿名 来源:网络

“随着数据集的增长和分析神经网络变得更加复杂,越来越多的用户选择使用 NVIDIA GPU 来加速 AI 推理。

目前,人工智能的应用正在从农业领域扩展到X射线领域,而NVIDIA GPU是AI推理跨行业创新的燃料。

“人工智能的应用正在从农业领域扩展到医学、X射线等领域,因为它们具有基于海量数据快速推断出智能选择的不可思议的能力。

随着数据集的增长和分析神经网络变得更加强大,越来越多的用户选择使用 NVIDIA GPU 来加速 AI 推理,只需看看美国家喻户晓的公司 GE Research 在航空领域部署 GPU 加速的 AI 模型即可了解其实际应用。

这些模型可实现工厂检查自动化、确保智能列车的运行、监控发电站并解释医学图像。

这些 AI 模型在配备 VTensor Core GPU 的 NVIDIA DGX 系统上运行。

配备 Jetson AGX Xavier 模块的边缘计算网络该硬件运行 NVIDIA 的 TensorRT 推理引擎及其用于深度学习的 CUDA/cuDNN 加速库,以及适用于 Jetson 模块的 NVIDIA JetPack 工具套件。

NVIDIA GPU 加速 AI 推理洞察,推动跨行业创新

推理为视频应用程序和合同管理提供支持 在消费市场,全球最受欢迎的两种移动视频应用程序在 NVIDIA GPU 上运行 AI 推理。

TikTok 及其在中国的前身“抖音”今年 2 月全球下载量达到 10 亿次。

这两款应用程序的开发商和所有者字节跳动每天为 4 亿活跃用户上传多达 10,000 个新视频。

字节跳动在数千台 NVIDIA T4 和 P4 GPU 服务器上运行 TensorRT,以便用户可以搜索并获得精彩视频的推荐。

该公司估计,NVIDIA 产品已帮助该公司节省了数百万美元,同时将在线服务的延迟减少了一半。

在商业领域,德勤在其 dTrax 软件中使用人工智能推理来帮助公司管理复杂的合同。

例如,当法规发生变化或公司计划进行大型收购时,dTrax 可以找到并更新长期协议中的关键条款。

目前全球有许多公司在使用 dTrax。

该软件运行在数据中心的 NVIDIA DGX-1 系统和云中的 AWS P3 实例上,荣获 2017 年《金融时报》智能商业奖。

GPU加速推理运行速度金融服务公司Square的测试结果表明,一般模型的推理任务在GPU上的运行速度是CPU上的两倍,并且在大型模型(如RoBERTa)上,推理工作的完成速度有所提高10倍。

因此,NVIDIA GPU 对于将 Square Assistant 从虚拟调度程序扩展为驱动公司所有产品的对话式 AI 引擎的目标至关重要。

宝马集团近日宣布,将利用 NVIDIA Isaac 机器人平台开发五款新型机器人,以提升其汽车制造工厂的物流水平。

其中一款机器人由 NVIDIA Jetson AGX Xavier 提供支持,每秒可执行高达 32 万亿次操作,以执行感知、姿态估计和路径规划等计算机视觉任务。

人工智能推理也发生在车内。

中国小鹏汽车于 4 月下旬推出了 P7 纯电动轿车,该轿车采用 NVIDIA DRIVE AGX Xavier,通过推断传感器数据来帮助实现 3 级自动驾驶能力。

过去三年来,NVIDIA 数据中心平台的推理性能提高了近 50 倍,这在很大程度上要归功于 Tensor Core 的引入以及 TensorRT 中持续的软件优化以及 PyTorch 和 TensorFlow 等 AI 框架的加速。

过去三年,NVIDIA数据中心平台的推理性能提升了近50倍,很大程度上得益于Tensor Core的介入以及TensorRT中持续的软件优化以及PyTorch和TensorFlow等AI框架的加速。

来自世界各地的医学专家在2018年GPU技术大会(GTC)上就人工智能在放射学、基因组学、显微镜学和其他医疗保健领域的应用发表了数十场演讲。

美国放射学院院长 Geraldine McGinty 在一次演讲中称人工智能是“千载难逢的机会”,可以同时提高护理质量和降低成本。

在农业领域,越来越多的初创公司正在利用人工智能来提高效率。

例如,NVIDIA 初创加速计划成员 Rabbit Tractors 在多功能机器人上使用 Jetson Nano 模块,根据摄像头和雷达数据推断农作物需要在哪里种植、浇水或收割。

还有其他公司也在使用 GPU 来加速推理,包括用于欺诈检测的美国运通公司、用于工业检查的宝洁公司以及用于搜索引擎的网络巨头。

AI 推理在 NVIDIA DGX AGPU 上提升高达 7 倍 GPU 推理的潜力不断增强,准确性不断提高。

NVIDIA Ampere 架构通过多实例 GPU 功能将推理速度提高高达 7 倍。

AGPU 中支持深度神经网络稀疏性的新方法有望带来更多好处。

这是 AGPU 技术概述中讨论的架构的几个新特性之一。

NVIDIA GPU 加速 AI 推理洞察,推动跨行业创新

站长声明

版权声明:本文内容由互联网用户自发贡献,本站不拥有所有权,不承担相关法律责任。如果发现本站有涉嫌抄袭的内容,欢迎发送邮件 举报,并提供相关证据,一经查实,本站将立刻删除涉嫌侵权内容。

标签:

相关文章

  • 瑞萨电子芯片工厂又遭遇“火情”

    瑞萨电子芯片工厂又遭遇“火情”

    4月17日刚刚宣布复工的瑞萨电子中工厂12英寸厂房N3栋,近日差点再次起火。 我们从瑞萨官网获悉,4月21日16时30分左右,工厂内发现冒烟,疑似火灾隐患,但很快被值班员工扑灭。 事件发生后,那卡12英寸工厂N3栋1楼和2楼的生产线被停工检查。 经消防人员确认,生产线于当晚20:0

    06-06

  • 1919成都码头公司获政府背景资金1.5亿元投资,发展“重管理、轻资产”模式

    1919成都码头公司获政府背景资金1.5亿元投资,发展“重管理、轻资产”模式

    投资界消息7月28日公告称,旗下成都易久易久码头企业管理有限公司成都码头公司(简称“成都码头公司”)获得四川省中小企业发展股权投资基金(简称“四川省中小企业基金”)1.5亿元投资。 本次融资标的成都码头公司是四川一九一九码头企业管理有限公司(简称四川码头公司)的

    06-17

  • Cybertruck传递无法粉碎的悲观消息?

    Cybertruck传递无法粉碎的悲观消息?

    作为电动汽车行业公认的标杆企业,特斯拉也交出了一份不及格的成绩单。 10月19日上午,孔夫子公布最新财报。 财报显示,今年Q3,受车型更新换代和工厂升级影响,特斯拉汽车总产量43.1万辆,环比下降10%,总交付量为43.1万辆。 43.5万辆,环比下降7%。 尽管市场对此早有预期,

    06-18

  • 顺新将在越南设立子公司

    顺新将在越南设立子公司

    DIGITIMES Asia 鸿海科技集团(富士康)旗下专注系统级封装(SiP)模组的顺新科技宣布计划斥资1万美元开设子公司越南子公司。 讯鑫在向台湾证券交易所(TWSE)提交的文件中表示,新子公司讯鑫科技(越南)被视为该公司的长期股权投资。 讯欣在越南有两家工厂,一间在河内,一

    06-06

  • 海泰新光今日在上交所科创板上市

    海泰新光今日在上交所科创板上市

    海泰新光科技股份有限公司今日在上海证券交易所科创板挂牌上市。 2020年2月26日,青岛海泰新光科技股份有限公司(股票代码:77)在上海证券交易所科创板挂牌上市。

    06-17

  • 专注ADC抗肿瘤新药研发,「普方生物」完成超千万美元Pre-A轮融资

    专注ADC抗肿瘤新药研发,「普方生物」完成超千万美元Pre-A轮融资

    「普方生物」近期完成超千万美元Pre-A轮融资。 本轮融资由先锋启云领投,高榕资本、长安资本跟投。 本次募集资金将主要用于推动公司ADC抗肿瘤新药产品管线的开发。 普方生物科技成立于2017年,是一家专注于开发治疗实体瘤的ADC药物的生物科技公司。 致力于通过专有平台开发创

    06-18

  • 五家公司投资205亿美元,印度芯片制造业有望崛起?

    五家公司投资205亿美元,印度芯片制造业有望崛起?

    据悉,印度政府已收到5家公司在当地制造芯片和显示器的计划,总投资约1亿美元。 Vedanta、新加坡 IGS S Ventures 以及与富士康成立合资企业的 ISMC 已提出总计约 1 亿美元的投资计划,用于本地制造可用于从 5G 设备到电动汽车等各种产品的芯片。 3家公司已根据计划向印度政府

    06-08

  • WPS AI来了,比ChatGPT更适合办公,而且也更懂中文

    WPS AI来了,比ChatGPT更适合办公,而且也更懂中文

    当我拿到金山Office代号“WPS AI”的内测资格时,我的嘴角忍不住扬起几下度,脑海里慢慢浮现出一句话:好了,你可以钓鱼了。 体验一个可以提高写作效率的工具不就像长跑时骑自行车一样吗?没错,这篇文章是我“骑着自行车”写的。 3大场景,轻文档不轻。 金山办公的生成式人工

    06-21

  • 「北岛」完成数千万元Pre-A轮融资,SIG海纳亚洲创业投资基金和靖亚洲资本联合领投

    「北岛」完成数千万元Pre-A轮融资,SIG海纳亚洲创业投资基金和靖亚洲资本联合领投

    投资圈(ID:pedaily)6月27日消息,成立于2017年客户成功平台“Hokdo”(以下简称Hokdo)近日完成数千万元Pre-A轮融资。 本轮融资由SIG海纳亚洲创业投资基金普天资本联合领投,老股东齐继创谭跟投。 曲可多采用标准的SaaS订阅方式进行收费,其使命是“帮助全球企业实现可持续

    06-17

  • 越秀产业基金与南昌高新区战略合作及产业项目及基金签约仪式举行

    越秀产业基金与南昌高新区战略合作及产业项目及基金签约仪式举行

    4月3日,越秀产业基金与南昌高新区战略合作及产业项目及基金签约仪式在南昌高新区举行。 在江西南昌举行。 南昌市委副书记、市长万光明,南昌市委常委、常务副市长胡晓海,南昌市委常委、市委书记王万政南昌高新区党工委,江西金控集团党委副书记、副董事长、总经理熊义江,越

    06-17

  • 科技行业IPO有望迎来强劲需求或领跑美股

    科技行业IPO有望迎来强劲需求或领跑美股

    导读:外媒今日撰文称,虽然近期美股IPO(首次公开募股)交易数量有所减少,但由于华尔街街头银行家和基金经理结束假期,科技行业新股发行有望迎来强劲需求,引领整个市场。   以下为文章全文:   经历了近期的股灾之后??,美国IPO市场也遭遇了“严夏”。 然而,当银行家

    06-18

  • 压倒蔡成功风厂,逼迫老周反“贾成功”,贷款威力过猛?

    压倒蔡成功风厂,逼迫老周反“贾成功”,贷款威力过猛?

    老周最近有点累。 今年10月,老周创办的“王牌汽车”失去了昔日的辉煌。 在政策和市场的压力下,这个最早的行业玩家以及业内知名的独角兽已经显露出疲态。 当时在A股风头正劲的“贾成功”找到他,想以战略投资的方式收购易风70%的股权。 老周狠了,一跺脚,说道:“好吧!”贾

    06-18