首页 > 科技未来 > 内容

NVIDIA支持自动驾驶汽车和云同时进入高算力、大模型时代

发布于:2024-06-18 编辑:匿名 来源:网络

3月10-11日,NVIDIA开发技术部亚太区总经理李曦鹏受邀出席首场线下聚会阿里云自动驾驶加速器活动并发表主题演讲《NVIDIA?支撑自动驾驶车端云端同步迈入高算力大模型时代》,分享AI在自动驾驶领域的研发趋势和解决方案。

以下为演讲内容: 自动驾驶需要通过大量传感器获取环境信息,然后对数据进行处理和分析。

加速计算可以提供更快的数据处理速度和更高的精度。

加速计算不仅对自动驾驶行业至关重要,而且在数据处理、互联网和医疗领域也发挥着重要作用,推动这些行业的发展。

车载计算能力对于加速汽车智能化至关重要。

作为自动驾驶产业链的基础,汽车上的大型算力芯片和解决方案必不可少。

NVIDIA DRIVE平台是全球最受欢迎的自动驾驶平台之一,提供多种芯片和解决方案,包括车载终端、数据中心和仿真解决方案。

安全是发展自动驾驶的第一要务,更大的算力可以提高安全性。

NVIDIA在秋季GTC上宣布的NVIDIA DRIVE Thor SoC汽车级系统芯片可以实现最高的TOPS AI算力和TFLOPS浮点算力。

可以将整车的智能驾驶和座舱功能集成在单一计算平台上,为未来的算法提供支持,并为应用开发预留足够的空间。

应用和算力需要相互匹配,算力的发展需要一定程度的超前,为算法和应用的发展留下足够的空间。

近年来,BEV和Transformer在深度学习领域取得了优异的成果,带来了巨大的效率提升。

但同时,它也对计算量提出了更高的要求,因此出现了一些革命性的技术。

例如,Transformer Engine 和专门从事 Transformer 块计算的技术。

除了BEV和Transformer之外,NVIDIA还与云服务合作伙伴合作,在云端对其他各种模型进行训练和预测加速。

对于现代加速集群来说,运行的应用有很多种,包括模拟、AI、科学AI、数字孪生、量子计算等,这些应用都是典型的加速计算集群应用。

目前,硬件性能提升速度正在放缓,每年仅约1.1倍。

五年内预期的10倍提升实际上只有2倍,十年内预期的10倍提升也只有4倍。

此时,如果采用加速计算,加速比将维持在每年1.6倍,将为工作负载提供充足的计算能力,成为应对性能瓶颈的重要解决方案。

同时,我们还需要关注成本问题,包括单个晶体管的价格逐年上涨、能源消耗、机房建设、电源等,因此需要更多的加速计算来降低成本和提高效率。

在自动驾驶领域,NVIDIA可以提供丰富的工具和解决方案来帮助用户完成AI模型的端到端流程。

对于数据预处理,NVIDIA可以提供处理结构化和非结构化数据以及图像处理的工具,以确保训练和预测的一致性。

在训练方面,NVIDIA可以提供不同的框架,同时也注重模型推理。

在云端部署时,NVIDIA提供了大规模部署的工具。

NVIDIA相信所有计算任务都将在未来10年内加速,并且NVIDIA已经为此做好了准备。

加速计算的特点和意义在于可以提高工作效率、降低成本、改善用户体验,同时促进工业信息集成的发展。

这些特点和意义决定了NVIDIA的工作方式,就是与客户和合作伙伴深入合作,根据客户需求设计最合适的解决方案,共同进步。

加速计算的特点总结如下: 性能幅度提升:加速计算可以将模型性能提升数十倍甚至数百倍。

应用专用性:上层应用需要根据具体业务场景进行优化,没有一刀切的方法。

识别瓶颈:需要在应用程序中从上到下找到性能瓶颈,然后对这些瓶颈进行加速,以提高整体性能。

端到端优化:AI加速器算法的核心是优化。

端到端的优化需要软件协同设计,需要业务、算法、工程人员和优化工程师的配合。

自动驾驶软件产品开发特点如下:一是自动驾驶端到端开发需要加速数据模型的流动,充分利用数据信息。

例如,在车辆端采集数据时,需要高效利用数据,需要在云端进行自动标记或模型训练、数据推理等过程,使从数据采集到整个过程以便尽快利用。

其次,云训练、预测以及车端验证和部署需要保??持模型和数据的一致性。

不同的训练框架、预处理库和数据处理方法会导致模型和数据不一致,因此整个过程需要自动化和统一管理。

第三,如果汽车和云端的计算能力出现问题,需要设计更多创新的大型模型来解决实际问题。

在云端,自动驾驶应用需要处理大量数据的采集、管理和筛选。

数据管理包括手动和自动标注,以及模型训练和REPLAY验证。

如果采集车辆数量足够多,数据采集的长尾效应可以减少单辆车的数据量,但考虑到量产车辆的数量,数据处理必须更加智能和高效。

这已经成为自动驾驶企业的共识,NVIDIA也将与云服务合作伙伴合作,基于其在其他行业的丰富经验和成果,帮助企业落地相关能力。

总体而言,AI加速计算可以大幅提升自动驾驶应用的性能,但具体方法需要针对不同的应用场景进行优化。

例如,在视觉计算领域,Swin-transformer模型在自动驾驶行业有良好的应用场景,训练吞吐量可提升2.3倍,从而减少训练时间,提高模型验证和上线速度。

此外,CV-CUDA开源库是通用的高性能图像处理加速库,适用于不同行业的AI成像前处理和后处理。

已广泛应用于短视频行业、自动驾驶行业、地图行业等多个领域。

仅就预处理而言,就可以减少训练和预测中的调试工作量,提高模型对齐程度,提高工作效率。

NVIDIA支持自动驾驶汽车和云同时进入高算力、大模型时代

加速计算需要软件和硬件的协同设计。

仅依靠单一的优化方法很难取得效果。

需要从上到下加速尽可能多的环节。

AI的核心是加速,加速的核心是优化,需要算法和优化工程师的配合。

在自动驾驶领域,NVIDIA将携手云服务合作伙伴,依托其他领域的成功经验和成果,为车企和自动驾驶公司提供端到端全栈AI加速计算解决方案。

阿里云创新中心简介 阿里云创新中心将阿里巴巴技术、产品、业务的生产力转化为企业发展的宝贵动力,为科技型企业提供更普惠、更绿色、更环保的产品和服务。

中小企业在技术创新、日常运营、职业技能培训、资本匹配、跨境海外扩张等方面为中小企业提供全方位支持。

截至目前,阿里云创新中心已为中小企业提供了2亿双创云资源,服务超过1万名创业者和50万家小微企业,孵化了众多高成长创新企业。

研究数据显示,顶级公司估值超过1亿,每年估值增速超过35%。

NVIDIA支持自动驾驶汽车和云同时进入高算力、大模型时代

站长声明

版权声明:本文内容由互联网用户自发贡献,本站不拥有所有权,不承担相关法律责任。如果发现本站有涉嫌抄袭的内容,欢迎发送邮件 举报,并提供相关证据,一经查实,本站将立刻删除涉嫌侵权内容。

标签:

相关文章

  • 翼猫科技获数千万元A轮融资,量子资本领投

    翼猫科技获数千万元A轮融资,量子资本领投

    据投资界1月14日消息,翼猫科技宣布获得数千万元A轮融资。 本轮由量子资本领投。 晋商资本也参与了投资。   据了解,南京翼猫信息技术有限公司是一家专注于商业智能的移动互联网公司。 基于移动智能购物车系统的互联网+超市整体解决方案,帮助超市降低人力成本、提高效率、

    06-18

  • ECVV供应链服务平台完成B+轮融资

    ECVV供应链服务平台完成B+轮融资

    5月18日,据投资界(微信ID:pedaily)消息,B2B跨境工业品电商平台ECVV.com宣布完成B+轮融资。 本轮由长润资本投资。 独家投资。 基于中国工业品供应链优势,ECVV致力于为全球买家提供B端客户产品一站式采购服务。 是一家基于互联网的跨境电子商务综合服务商。 ECVV服务于“

    06-17

  • 430亿欧元欧洲芯片法案讨论了什么?

    430亿欧元欧洲芯片法案讨论了什么?

    昨天,欧盟发布了1亿欧元的芯片法案。 现在,我们总结了其主要公告如下,以便您了解这项庞大法案的目标。 以下为重要内容摘要: 欧盟委员会提出了一套全面的措施,以确保欧盟在半导体技术和应用方面的供应安全、弹性和技术领先地位。 《欧洲芯片法》将增强欧洲的竞争力和复原

    06-08

  • 30亿,山东熟菜产业基金启动

    30亿,山东熟菜产业基金启动

    据投资界(ID:pedaily)消息,1月23日,山东中垦股权投资基金签约仪式暨基金投资发布会在诸城市举行。 签约仪式的举行,标志着山东调理菜产业基金落户诸城。 山东中垦股权投资基金将在诸城引入初始资本10亿元。 诸城市发展调理菜产业具有得天独厚的现实条件和历史基础。 经

    06-17

  • 1-4月中国城镇固定资产投资同比增长19.9%

    1-4月中国城镇固定资产投资同比增长19.9%

    国家统计局数据显示,1-4月中国城镇固定资产投资同比增长19.9% 4月份预期增长20%,前值增长25.6%。

    06-18

  • 清研智束完成1亿元A轮融资,由云晖资本、无锡实业巨峰、水木创投联合领投

    清研智束完成1亿元A轮融资,由云晖资本、无锡实业巨峰、水木创投联合领投

    投资界(ID:pedaily)12月23日消息,近日,中国电子束3D打印领导者清研智束宣布完成亿元A轮融资,为处于时代变革和机遇之中的中国3D打印行业的发展增添了进一步的动力。 本轮融资由云晖资本、无锡实业巨峰、水木创投联合领投,钟鼎资本、华德资本等投资机构跟投。 这些投资机

    06-17

  • 【投资日报】IPO重启不会阻碍并购升温,优狗之死

    【投资日报】IPO重启不会阻碍并购升温,优狗之死

    【首都事件】  1.在前海设立百亿规模并购基金。 IPO的重启不会阻碍并购的升温。   上半年中国并购市场累计交易完成以来,涉及交易金额达4200万美元,同比增长24%,环比增长取决于 %。 这是历年来中国并购市场半年交易总额最高的一次。    在IPO暂停、退出渠道受阻的背

    06-18

  • 2023年电商:加强集中,关注本地生活

    2023年电商:加强集中,关注本地生活

    简介:过去的一年,电商行业组织不断重组,竞争激烈。 2017年电商行业的激烈争夺,可以体现在“组织架构调整”上。 今年,阿里巴巴、京东、抖音、快手都经历了组织架构的“大地震”。 阿里巴巴经历了“史上第一次组织变革”,结束了“张勇时代”;京东物流、京东零售相继缩短

    06-18

  • 破解特斯拉漏洞,教马斯克如何做“安全”

    破解特斯拉漏洞,教马斯克如何做“安全”

    作者 |宫雪编辑|靖宇万物互联时代,虚拟世界与现实世界的界限日益模糊,网络安全攻防战不时惊心动魄。 早年,通过U盘传播的“Stuxnet”病毒攻击了伊朗核设施的控制系统。 通过修改程序指令,导致生产浓缩铀的离心机异常加速,导致离心机报废,伊朗核电站瘫痪。 Facebook上1万

    06-17

  • 【今年新零售三】阿里“不缺钱”,京东“优势大”,腾讯“先天不足”, 2018年谁将统治世界还不得而知!

    【今年新零售三】阿里“不缺钱”,京东“优势大”,腾讯“先天不足”, 2018年谁将统治世界还不得而知!

    网络巨头进入群体PK时代!在这里,阿里投资了联华超市和高鑫零售。 那边,一周之内,腾讯已入驻永辉超市和唯品会。 京东牵头腾讯推出“无界零售”解决方案……经过近一年的鏖战,互联网蓬勃发展。 以Pu为首的新零售阵营已经开始崭露头角。 阿里:“亲生儿子”成了网红,投资股

    06-18

  • 大公司忙“种草”:腾讯推出“企鹅惠麦”,抖音新功能内测

    大公司忙“种草”:腾讯推出“企鹅惠麦”,抖音新功能内测

    互联网各大公司都在冲进“种草”的千亿级赛道。 近期,两大工厂开始筹划开拓新的植草业务。 腾讯正在悄悄测试一个新的种草项目“企鹅惠麦”。 这款种草产品融合了“本土、种草、社区”等属性,可能是今年刚下架的电商产品“小鹅”的后继产品。 加油。 ”此外,抖音再次测试了

    06-18

  • 专注早餐外卖,七七十获千万元Pre-A轮融资

    专注早餐外卖,七七十获千万元Pre-A轮融资

    11月2日消息,据猎云网消息,七七十获北京耀明科技领投的Pre-A轮融资。 其他个人跟投,共融资1000万元,投后估值5000万元。 公开资料显示,七七十是一家专注于解决城市白领“吃早餐”问题的外卖平台。 2016年正式上线,平台用户主要针对一二线城市的年轻白领。 用户前一天晚

    06-17