字节跳动投资了阿里前女员工
06-17
3月10-11日，NVIDIA开发技术部亚太区总经理李曦鹏受邀出席首场线下聚会阿里云自动驾驶加速器活动并发表主题演讲《NVIDIA?支撑自动驾驶车端云端同步迈入高算力大模型时代》，分享AI在自动驾驶领域的研发趋势和解决方案。
以下为演讲内容： 自动驾驶需要通过大量传感器获取环境信息，然后对数据进行处理和分析。
加速计算可以提供更快的数据处理速度和更高的精度。
加速计算不仅对自动驾驶行业至关重要，而且在数据处理、互联网和医疗领域也发挥着重要作用，推动这些行业的发展。
车载计算能力对于加速汽车智能化至关重要。
作为自动驾驶产业链的基础，汽车上的大型算力芯片和解决方案必不可少。
NVIDIA DRIVE平台是全球最受欢迎的自动驾驶平台之一，提供多种芯片和解决方案，包括车载终端、数据中心和仿真解决方案。
安全是发展自动驾驶的第一要务，更大的算力可以提高安全性。
NVIDIA在秋季GTC上宣布的NVIDIA DRIVE Thor SoC汽车级系统芯片可以实现最高的TOPS AI算力和TFLOPS浮点算力。
可以将整车的智能驾驶和座舱功能集成在单一计算平台上，为未来的算法提供支持，并为应用开发预留足够的空间。
应用和算力需要相互匹配，算力的发展需要一定程度的超前，为算法和应用的发展留下足够的空间。
近年来，BEV和Transformer在深度学习领域取得了优异的成果，带来了巨大的效率提升。
但同时，它也对计算量提出了更高的要求，因此出现了一些革命性的技术。
例如，Transformer Engine 和专门从事 Transformer 块计算的技术。
除了BEV和Transformer之外，NVIDIA还与云服务合作伙伴合作，在云端对其他各种模型进行训练和预测加速。
对于现代加速集群来说，运行的应用有很多种，包括模拟、AI、科学AI、数字孪生、量子计算等，这些应用都是典型的加速计算集群应用。
目前，硬件性能提升速度正在放缓，每年仅约1.1倍。
五年内预期的10倍提升实际上只有2倍，十年内预期的10倍提升也只有4倍。
此时，如果采用加速计算，加速比将维持在每年1.6倍，将为工作负载提供充足的计算能力，成为应对性能瓶颈的重要解决方案。
同时，我们还需要关注成本问题，包括单个晶体管的价格逐年上涨、能源消耗、机房建设、电源等，因此需要更多的加速计算来降低成本和提高效率。
在自动驾驶领域，NVIDIA可以提供丰富的工具和解决方案来帮助用户完成AI模型的端到端流程。
对于数据预处理，NVIDIA可以提供处理结构化和非结构化数据以及图像处理的工具，以确保训练和预测的一致性。
在训练方面，NVIDIA可以提供不同的框架，同时也注重模型推理。
在云端部署时，NVIDIA提供了大规模部署的工具。
NVIDIA相信所有计算任务都将在未来10年内加速，并且NVIDIA已经为此做好了准备。
加速计算的特点和意义在于可以提高工作效率、降低成本、改善用户体验，同时促进工业信息集成的发展。
这些特点和意义决定了NVIDIA的工作方式，就是与客户和合作伙伴深入合作，根据客户需求设计最合适的解决方案，共同进步。
加速计算的特点总结如下： 性能幅度提升：加速计算可以将模型性能提升数十倍甚至数百倍。
应用专用性：上层应用需要根据具体业务场景进行优化，没有一刀切的方法。
识别瓶颈：需要在应用程序中从上到下找到性能瓶颈，然后对这些瓶颈进行加速，以提高整体性能。
端到端优化：AI加速器算法的核心是优化。
端到端的优化需要软件协同设计，需要业务、算法、工程人员和优化工程师的配合。
自动驾驶软件产品开发特点如下：一是自动驾驶端到端开发需要加速数据模型的流动，充分利用数据信息。
例如，在车辆端采集数据时，需要高效利用数据，需要在云端进行自动标记或模型训练、数据推理等过程，使从数据采集到整个过程以便尽快利用。
其次，云训练、预测以及车端验证和部署需要保??持模型和数据的一致性。
不同的训练框架、预处理库和数据处理方法会导致模型和数据不一致，因此整个过程需要自动化和统一管理。
第三，如果汽车和云端的计算能力出现问题，需要设计更多创新的大型模型来解决实际问题。
在云端，自动驾驶应用需要处理大量数据的采集、管理和筛选。
数据管理包括手动和自动标注，以及模型训练和REPLAY验证。
如果采集车辆数量足够多，数据采集的长尾效应可以减少单辆车的数据量，但考虑到量产车辆的数量，数据处理必须更加智能和高效。
这已经成为自动驾驶企业的共识，NVIDIA也将与云服务合作伙伴合作，基于其在其他行业的丰富经验和成果，帮助企业落地相关能力。
总体而言，AI加速计算可以大幅提升自动驾驶应用的性能，但具体方法需要针对不同的应用场景进行优化。
例如，在视觉计算领域，Swin-transformer模型在自动驾驶行业有良好的应用场景，训练吞吐量可提升2.3倍，从而减少训练时间，提高模型验证和上线速度。
此外，CV-CUDA开源库是通用的高性能图像处理加速库，适用于不同行业的AI成像前处理和后处理。
已广泛应用于短视频行业、自动驾驶行业、地图行业等多个领域。
仅就预处理而言，就可以减少训练和预测中的调试工作量，提高模型对齐程度，提高工作效率。
加速计算需要软件和硬件的协同设计。
仅依靠单一的优化方法很难取得效果。
需要从上到下加速尽可能多的环节。
AI的核心是加速，加速的核心是优化，需要算法和优化工程师的配合。
在自动驾驶领域，NVIDIA将携手云服务合作伙伴，依托其他领域的成功经验和成果，为车企和自动驾驶公司提供端到端全栈AI加速计算解决方案。
阿里云创新中心简介 阿里云创新中心将阿里巴巴技术、产品、业务的生产力转化为企业发展的宝贵动力，为科技型企业提供更普惠、更绿色、更环保的产品和服务。
中小企业在技术创新、日常运营、职业技能培训、资本匹配、跨境海外扩张等方面为中小企业提供全方位支持。
截至目前，阿里云创新中心已为中小企业提供了2亿双创云资源，服务超过1万名创业者和50万家小微企业，孵化了众多高成长创新企业。
研究数据显示，顶级公司估值超过1亿，每年估值增速超过35%。
版权声明：本文内容由互联网用户自发贡献，本站不拥有所有权，不承担相关法律责任。如果发现本站有涉嫌抄袭的内容，欢迎发送邮件 举报，并提供相关证据，一经查实，本站将立刻删除涉嫌侵权内容。
标签：
相关文章
06-17
06-21
06-18
06-21
06-18
06-18
最新文章
Android旗舰之王的过去与未来
智能手表不被开发、AR眼镜被推迟，Meta的产品经历了一波三折
为什么Cybertruck是特斯拉史上最难造的车？
更新鸿蒙3后，文杰允许你在车里做PPT了
新起亚K3试驾体验：追求“性价比”，韩系汽车仍不想放弃
阿维塔15登场！汽车配备了增程动力，理想情况下会迎来新的对手吗？
马斯克宣布创建 ChatGPT 竞争对手！ OpenAI的CEO给他泼了冷水， GPT-5可能会发生巨大变化
骁龙无处不在，是平台也是生态