首页 > 科技启迪 > 内容

地平线 联合创始人与副总裁黄畅:打造AI计算平台的地平线要有边界感 - CCF-GAIR 2019

发布于:2024-06-17 编辑:匿名 来源:网络

雷锋网:7月12日至7月14日,第四届全球人工智能与机器人峰会(CCF-GAIR)在深圳正式举行。

本次峰会由中国计算机学会(CCF)主办,雷锋网、香港中文大学(深圳)承办,深圳市人工智能与机器人研究院协办。

其得到了深圳市政府的大力指导,是国内人工智能和机器人学术界和产业界的重要论坛。

是产业界和投资界三大领域的顶级交流博览盛会,旨在打造国内人工智能领域强大的跨境交流合作平台。

“业界把我们归类为AI芯片公司,但我们实际上把自己定位为比芯片稍大一点的公司。

我一直想说我们是一家技术平台公司,软件和硬件结合在一起。

”在第四届全球人工智能与机器人峰会上,地平线联合创始人和副总裁黄畅对此进行了解释。

在7月13日举行的AI芯片论坛上,黄畅发表了题为“《打造极致效能的AI计算平台,构建安全、美好的智能世界》”的主题演讲。

黄畅在演讲中表示,地平线希望定义真正的AI芯片性能。

传统芯片性能指的是PPA,包括Power、Performance、Aera(性能、功耗、面积)。

现在比较主流的指标是TOPS/Watt和TOPS/$,能效比和性价比是用户关心的。

算法不断发展,设备利用率由架构和编译器决定。

架构将算法转化为相对于架构而言最优的质量、顺序和执行模式。

Horizo??n的核心是算法+芯片联合优化,兼顾灵活高效的架构,服务于经典和未来的算法设计。

“Horizo??n力求能够更好地预测、把握、选择未来真正重要的AI算法的趋势,并将算法和发展趋势拆解并整合到架构中,以便我们能够提前预测可能发生的事情。

”未来将成为主流,提前将有效的算法考虑到计算架构中非常重要。

”黄畅提到。

作为一家AI芯片独角兽公司,黄畅在采访中多次谈到“边界”。

数据、AI模型和设备形成闭环。

这个闭环组合成一个高速循环,快速推动人工智能的技术发展和商业化。

在这个过程中,如何想办法让专家、开发者、AI工程师等不同角色找到舒适区,将开发模式转变为平台,至关重要。

Horizo??n希望成为一家平台公司。

生态还是生态,对于地平线来说是一个不再需要犹豫的问题。

平台公司首先考虑的是平台的深度和广度。

黄畅对此已经做出了成熟的判断。

平台的核心竞争力在于技术集成,从算法到架构再到后端集成。

技术链接越长,集成优势就越大。

“但同时,我们也必须注意到,融合不能是无边界的。

你总要判断你的核心竞争力在哪里,它的外延是什么,什么时候外延会成为你的主要矛盾,从而将它们纳入你的核心竞争力之中。

去吧,因为很多技术栈其实应该留给行业上游或者下游,所以我们要有边界感和自我意识。

当然这个东西是动态变化的,取决于技术的发展、整个行业的发展、公司自身能力的发展。

通用芯片和专用芯片并行发展。

趋势如何发展是所有业内人士都关心的话题。

黄畅认为,通用芯片和专用芯片各有各的特点例如,通用芯片也将通过专用架构来增强其自身的竞争力,“通用芯片和专用芯片将逐渐趋同”。

各自的出发点。

当然,在这个过程中,长期的整合必然会分裂,长期的分裂必然会合并。

它在某些历史市场中可能具有非常特殊的用途。

这也是完全有可能的。

” 地平线联合创始人与副总裁黄畅 以下为黄畅演讲全文,经雷锋网编辑,不改变原意: 黄畅:最近经常来CCF,我的标题是《打造极致效能的AI计算平台,构建安全、美好的智能世界》。

著名的Gartner曲线,Gartner曲线显示了AI的踪迹,后来出现了很多AI技术和应用,有的逐渐浮现出来,有的已经触底,有的处于成熟的发展过程中,这是今年8月发布的最新Gartner曲线,列出了十大AI技术,并首次明确提出AI的普及化,这说明经过了这么多年。

历经洗礼,大家已经逐渐形成共识,人工智能技术及其产生和支撑的产品将会对我们未来各个层面的社会生活产生深远的影响。

到2020年,所有数据中25%以上将是实时数据,其中95%以上来自物联网终端。

到2020年,全球数据总量的20%将是与生产、安全密切相关的数据。

如何更好、更快、更安全地处理这些数据成为首要任务。

今天上午的特别会议是关于5G和AIoT的。

5G技术的出现,让边缘计算成为可能或者说是迫切的需求。

对于5G技术来说,其实非常需要MEC多接入点的边缘计算。

是基于5G的重要应用。

没有这个应用,5G技术的推广和普及就缺乏牵引力。

这句话英特尔也说过。

边缘计算将解决AI IoT的哪些核心问题?每辆自动驾驶汽车每天都会产生数 TB 的数据,这相当于整个互联网在 2018 年产生的数据量。

这是因为每辆自动驾驶汽车现在都拥有十多个摄像头和多个激光雷达。

这些摄像机都是高分辨率、高清晰度、高帧率。

边缘计算的核心问题是如何提高计算的可靠性,使其能够离线正常运行,保证安全合规,满足隐私要求。

任何数据在上传到云端之前都必须进行脱敏处理。

数据来回传输,无论是有线还是无线,从成本、功耗和技术安装来看,成本都不低。

5G技术虽然可以破解边缘的传输,但几百米范围内的传输并没有改变骨干网络。

带宽将极大地吸收数据网络,很快5G基站附近就会产生数据堰塞湖,必须快速计算和处理。

将其中非常有意义的部分上传到云端是一种有效的数据压缩方式。

边缘计算还具有灵活部署、高效协作的特点。

最近有一个热门词叫“车路协同”。

如果自动驾驶走特斯拉的路,依靠汽车本身的能力来推动,这也可能是L5级别的自动驾驶。

坦白讲,L4级自动驾驶目前不得不限制车辆在真实环境中可以运行的环境和区域。

该地区路端布局的改造可以大大缩短自动驾驶大规模运营的时间。

这里也可以体现末端的边缘计算,比如自动驾驶或者自主机器人的高效协作。

高实时计算减少响应延迟,这无疑是自动驾驶的必要条件。

传统上只有一端一云,所有数据都从端流向云端。

5G的发展让边缘计算成为新的变量。

其实我们可以看到,边缘计算肯定会带来商业范式的转变,包括现在运营商和传统设备商其实都看到了边缘计算的巨大商机,而且它里面的技术变革将会是非常深刻的,因为它有以下特点:传统终端和云端。

让我们再看看人工智能包容性和民主化背后的原因。

数据计算导致了巨大的能源消耗。

举个例子,2016年做了一个全国性的统计,发现中小型数据中心分布在全国各地。

比如我的家乡贵州,水电、煤电丰富,洞穴多,气候凉爽,特别适合建筑。

机房。

小型数据中心每年的用电量比三峡大坝的发电量还多。

同等数量的碳排放量甚至是民航中心碳排放量的两倍、民航碳排放量的两倍。

这是一个可怕的数据。

不仅是中国,全国各地都在建设大型数据中心。

例如,Facebook正在海底建设数据中心。

最大的数据中心将位于北极圈,功率超过兆瓦。

人工智能公司无论是做算法、做应用还是做芯片,都必须承担一些社会责任。

未来将会有巨大的AI计算需求。

比如我们看到谷歌前段时间说他们训练了非常好的模型并进一步使用了它们。

NANS自动搜索技术使用了数千个GPU运行了两个月,找到了一个很好的结构,将机器翻译模型推向了极致,这就是我们看到的实时翻译的模型。

但你知道训练这个模型要消耗多少电量吗?碳排放量相当于五辆汽车一年的排放量,并且只训练一个模型一次。

如果模型用于推理,随着时间的推移,其能耗将增加数百倍或数千倍。

我们不能忽视享受GPU集群训练和推理背后的巨大能耗。

我最近看到一份报告,说人类社会这几年已经无法避免二氧化碳排放量的急剧增加。

纵观几十年的规模,有人说这是“自掘坟墓”。

这就是我们的社会。

责任。

地平线要做什么?我们想要定义真正的AI芯片性能,它与功耗和成本密切相关。

传统的芯片性能,做芯片的人都知道,PPA,Power Performance Aera,比如一秒执行多少条指令?现在比较主流的是AI芯片每瓦特需要多少计算能力。

(还有)TOPS/$。

不到10%是我们自己测得的,经常被DDR带宽挡住。

我们得到的利用率是TOPS/$,大约是50%或80%。

我们还需要看看 TOPS 在多大程度上转化为人工智能性能。

通常是算法处理速度和精度,或者说单位时间内可以高精度处理多少数据?只有将这些东西加在一起,我们才能获得真正的AI性能。

TOPS能发挥多少AI性能?系统中算法不断演进,数据不断增加。

这么多的承压计算,还能处理多少数据?或者说性能能提升多少?设备利用率由体系结构和编译器决定。

架构和算法将算法转化为架构的最佳质量、顺序和执行模式。

性能是Horizo??n关注的核心。

我们的核心是算法进化、架构同行。

以下是算法演化的时间线。

随着时间不断向前发展,轻量级算法实现了更好的精度。

在相同的计算量下,我们正在提高精度和处理速度。

不可避免的是,我们将算法应用到传统的计算架构上,传统的计算架构并没有充分考虑到计算的变化和算法改变计算模型。

如果计算架构考虑得不好,算法带来的计算模型的变化将会明显减少。

Horizo??n致力于更好地预测、把握和选择未来真正重要的AI算法趋势,并将算法和发展趋势拆解并整合到架构中,以便我们能够提前预测可能最有效的算法。

成为未来的主流。

提前将算法考虑到计算架构中非常重要。

前两年,大量AI处理器集中精力优化3×3卷积,并且以一种看似漂亮的方式做到了。

结果就是他们没能把握算法的发展趋势。

3×3 密集卷积正在被放弃。

未来,这种开发方式将颠覆以往的最优开发模式。

针对当前主流算法设计的计算架构,在当前算法快速演进的时代,到实际使用的时候一两年后就会因为利用率低而轻易被淘汰。

传统GPU使用相对传统的方法,但他发现即使部署新算法,精度也无法提高。

我们特别注重算法和芯片的优化,兼顾灵活性和通用性。

我们的首要任务是追求极致的能源效率和性价比。

有很多工作要做,不仅仅是算法和架构,还有它们的许多编译器和扩展。

例如,架构设计需要考虑未来重要场景中的关键算法。

我们需要实验、探索、判断,包括与业界广泛沟通,共同定义未来哪些场景重要,哪些关键算法未来重要。

产品驱动的思想进行敏捷的架构迭代。

地平线 联合创始人与副总裁黄畅:打造AI计算平台的地平线要有边界感 - CCF-GAIR 2019

架构本身就是一种设计,它可以像软件一样快速迭代。

计算架构的实现技术涉及到的软件较多,而现在流行的HLS技术被大家用来快速迭代架构甚至芯片模型。

我们的首要任务是效率,同时考虑灵活性、架构??、算法以及它们之间的联系。

编译器,如紧凑型片上存储器、计算弹性张量核心、模型结构调整、可编程流处理架构、算子芯片联合优化、精简指令集设计等。

我是算法出身的,和建筑师有很多联系。

经过深入的讨论,我强烈的诉求是让软件尽可能多地做事,提供无与伦比的灵活性。

这给我们的编译器提供了很大的后续优化空间,甚至可以满足我们设计的芯片上所没有的要求。

在高速变化的场景中看到可能性非常重要。

这些是一些具体的例子。

左图显示了处理大图像和小模型的相同的两个芯片。

如果我们不做特殊的优化,按照更传统的方法,类似于GPU流处理,我们发现它的帧速率是多兆字节。

受DDR带宽限制,只有34%。

如果我们利用大量的分割、多层集成、各种强大的机制以及各种内部架构设计特征,给编译器留下巨大的优化空间,我们可以将其利用率提高到84%,帧率提高两倍,带宽减少了一个数量级。

我们的芯片面积很小,片上存储相比很多AI芯片的片上存储来说并不是特别大,甚至更小。

正是基于非凡软件的推动和驱动的设计,给软件和编译器留下了巨大的空间,使我们的硬件变得非常高效。

再举一个具体的例子,我们用该芯片在City Scapes中做×、19类、像素级的语义分割。

它可以在多瓦 GPU 上实现 74.8% 的准确度和 8 毫秒。

单个芯片的功耗为数百瓦。

芯片面积超过平方米。

如果把GPU砍掉不使用的话,这个东西至少也就一平方米左右。

综合各方面考虑,有效面积至少要在平方米以上。

这会带来什么后果?如图所示,可以同时检测关键点和分段,一颗芯片支持四个通道。

这是我们的标准视觉感知解决方案,有12个摄像头,4个鱼眼和8个法线,提供丰富的视觉。

凭感知,这已经是标准套件了。

就是我们的Matrix自动驾驶计算平台。

它获得了许多奖项,包括CES等多个组织的奖项。

已成功推广至海外领先汽车厂商,并作为自动驾驶套件进入量产阶段。

视觉感知的标准模块,这是一个非常成功的产品。

GPU 运行通常不可能用一个 GPU 来实现。

我们只使用三颗芯片,比 GPU 低一个数量级,成本也低一个数量级。

我们可以解决这个问题。

这是技术可以用于3D建模、完全可视化建模、以极低功耗进行实时高速3D建模的又一案例。

当你第一眼看到这张图片时,你会感觉这是一张激光扫描的图片。

前置摄像头看着前方的画面,就像行车记录仪一样,可以进行三维场景的高精度测绘。

我们和国外厂商也在开发这项技术。

合作已进入规模化应用阶段。

前面我讲了很多算法和芯片的变化,但光是这些仍然是一个潜力,需要让它们变得更方便人们使用。

软件开发发生了质的变化。

1.0时代,我们更多的是让人去理解规则,把复杂的问题分解成很多子规则,通过差异化的模型来描述,再分解去解决。

软件开发时代已经成为数据驱动的时代。

您只需要收集问题的数据并标记它们。

剩下的,包括如何对问题进行拆解和建模,就可以交给机器学习,尤其是深度神经网络的模型和方法。

这件事将会给软件开发带来翻天覆地的变化。

这是Reference,需要对接主流框架,进行量化、高效的训练、测试、分析,最后部署在我们的芯片上。

这是一个开放的平台,支持开源的方向。

数据、AI模型和设备形成闭环。

这个闭环结合高速循环,快速推动人工智能的技术发展和商业化。

我们经常谈论良好的识别。

什么是好的辨识度?从长远来看,要很好地识别芯片也是非常困难的。

如果我们很好地结合工具链,就可以大大减少开发人员数量,减少开发时间,大大扩大开发人员规模。

右边是传统的工具链,只有专业的专家才能应用,但它足够灵活,有足够的底层来解决各种问题。

由于开发者人数有限,资源瓶颈注定是那些资质足够、水平足够的人。

对于AI开发工程师来说,左端是封闭的SQL。

只能针对一些高频的专门场景来构建。

它的应用场景非常熟悉,所以我们需要找到一种门槛低但适用性足够广的适度开发模式。

将这种开发模式转变为平台化工具,为整个行业赋能。

赋能万物,让每个人的生活更安全、更美好,是地平线的使命,也是我们创立公司的初衷。

这张图中从上到下,可以看到碎片化的场景,包括智慧城市、智慧商业、自动驾驶、服务机器人、脑机接口,中间还有各种AI计算技术。

人类智能的顺序可以分为感知、建模、预测、决策、认知。

底层支撑是通用AI计算平台,包括硬件、芯片、软件、工具链、标准算法等。

采用地平线定位技术,不接触数据,不做应用。

我们提供极致功耗和效率的超高性价比芯片、非常开放的工具链和算法模型样本。

我们专注于自动驾驶和AIoT,同时也加入生态开源社区,加速AI赋能。

这是我们的新口号“AI ON HORIZON”。

我们希望为全行业打造一个通用的人工智能应用平台,为客户赋能,让人工智能技术更好、更早地普及,造福所有人。

人生,同行是我们的庄严承诺,谢谢大家。

相关文章:《车载智能计算基础平台参考架构1.0》发布,地平线携手主机厂推动自动驾驶落地。

Horizo??n 携手 Ideal,为 Ideal ONE 打造精准的全车语音交互。

地平线 联合创始人与副总裁黄畅:打造AI计算平台的地平线要有边界感 - CCF-GAIR 2019

站长声明

版权声明:本文内容由互联网用户自发贡献,本站不拥有所有权,不承担相关法律责任。如果发现本站有涉嫌抄袭的内容,欢迎发送邮件 举报,并提供相关证据,一经查实,本站将立刻删除涉嫌侵权内容。

标签:

相关文章

  • 2023世界数字治疗大会开幕,海南加快打造世界数字治疗创新岛品牌

    2023世界数字治疗大会开幕,海南加快打造世界数字治疗创新岛品牌

    为加快落实《海南省加快推进数字疗法产业发展的若干措施》,积极打造海南世界数字治疗创新岛品牌。 2023年8月25日,由北京蛋黄科技有限公司主办,重庆动脉橙科技有限公司、海南蛋黄科技有限公司承办,中华医学会数字治疗专业委员会支持中国医疗器械行业协会、英国商贸部、澳大

    06-18

  • 健康生活方式平台“DeepDive”完成数千万元A轮融资,基石资本投资

    健康生活方式平台“DeepDive”完成数千万元A轮融资,基石资本投资

    5月11日投资界消息,据懒熊体育了解,健康生活方式平台“DeepDive”完成数千万元A轮融资。 万元A轮融资,投资方为基石资本,投后估值超5亿元。 DeepDive成立于2001年,其最初的雏形是“深潜”训练营,这是一个以赛艇为主要运动项目、企业家为主要参与者的教育训练营。 2009年

    06-18

  • 受俄乌冲突及高通胀影响,第二季DRAM价格预计将继续下跌0~5%

    受俄乌冲突及高通胀影响,第二季DRAM价格预计将继续下跌0~5%

    TrendForce:俄乌冲突及高通胀下,预计DRAM价格将下跌第二季度继续下跌0~5% 据TrendForce预估,第二季度DRAM整体平均价格下跌约0~5%。 这是由于买家和卖家库存略高,加上近期俄罗斯和乌克兰冲突影响个人电脑、笔记本电脑、智能手机等需求。 高通胀的影响进一步削弱了消费者的

    06-08

  • 春节期间网剧观看人次超23亿,日均观看时长同比增长近20%

    春节期间网剧观看人次超23亿,日均观看时长同比增长近20%

    2月19日,《春节假期在线视频数据报告》今天公布的数据显示,1月28日至2月16日,超过网络剧及综艺节目观看人数达23亿人,其中广东、江苏、湖北、浙江、四川等地的活跃用户最多。 在就地过年的倡议下,网络视频观看高峰也从春节提前到了农历新年,用户日均观看时长接近1.5小时

    06-18

  • 奥普特:上半年预计利润1.38亿元至1.45亿元,同比增长73%-82%

    奥普特:上半年预计利润1.38亿元至1.45亿元,同比增长73%-82%

    奥普特发布半年度业绩预告,预计实现上半年净利润1.38亿元-1.45亿元,同比增长73%-82%。

    06-18

  • 区块链支付平台易付链获分布式资本3000万美元战略投资

    区块链支付平台易付链获分布式资本3000万美元战略投资

    据投资界8月3日消息,区块链支付平台易付链(EPC)获1万美元战略投资。 投资方为分布式资本,分布式资本管理公司的合伙人沈波也将担任项目负责人。   本次投入的1万美元将主要用于线下实体店消费技术的提升和储备资金,锁定期为3年。 同时,分布式资本承诺,易付链上线后,

    06-18

  • 灵动飞扬获得度量衡资本数千万B轮融资,全面启动乘用车预装ADAS产品量产

    灵动飞扬获得度量衡资本数千万B轮融资,全面启动乘用车预装ADAS产品量产

    据投资界9月27日消息,深圳市灵动飞扬科技有限公司, Ltd.最近宣布完成度量衡资本的数字投资。 千万元B轮融资。   本次融资后,灵动飞扬将加大产业布局,加大产业链升级力度,建立常州制造基地。 同时,深圳总部、重庆制造基地、南京研发中心也将继续扩充团队,秉承“让驾

    06-17

  • 爱励镇江在稳定发展

    爱励镇江在稳定发展

    爱励镇江在庆祝稳定发展五周年庆典上展示先进的生产能力中国镇江,2019 年 4 月 19 日 – 爱励今天在中国镇江庆祝其世界级铝板镇江工厂成立五周年。 客户、Aleris 高管和嘉宾齐聚一堂,庆祝工厂在获得关键客户资格以及日益成为航空航天和其他技术要求较高行业的高附加值产品供

    06-06

  • 如果没有耳机杆,AirPods Pro 的体验会更好吗?

    如果没有耳机杆,AirPods Pro 的体验会更好吗?

    你可能没有注意到,距离第一代AirPods发布已经过去四年半了。 从第一代AirPods到搭载H1芯片的第二代AirPods,外观上并没有什么区别。 直到主打降噪的AirPods Pro,AirPods家族才拥有了第二张面孔。 ▲ 从有线到无线,苹果耳机的演变。 图片来自:appledsign 近日,外媒@theap

    06-21

  • TikTok成为美国下载量最多的应用程序

    TikTok成为美国下载量最多的应用程序

    据投资界11月6日消息,今年10月,全球短视频应用程序TikTok成为美国每月下载量最多的应用程序。 市场应用机构Sensor Tower最近发布的数据显示,TikTok上个月的下载量超过了Facebook、Instagram、Snapchat和YouTube。   不仅在下载量方面,TikTok在美国市场的安装量方面也排

    06-18

  • Watch AI:让AI技术民主化,提供一站式企业AI服务——基于阿里云加速大模型的研发、训练和落地

    Watch AI:让AI技术民主化,提供一站式企业AI服务——基于阿里云加速大模型的研发、训练和落地

    近两年来,大模型的技术创新和应用加速。 关键,“云+AI”进一步降低了进入门槛,国内创业者也从底层大模型“滚”到了上层应用。 在这股汹涌的AI热潮下,智能化成为ToB领域企业转型升级的话题之一。 然而,自建或自训练大型模型成本昂贵,现成的AI产品参差不齐,且功能难以兼

    06-18

  • 大规模促销引发上市电商分歧:坚持还是放弃

    大规模促销引发上市电商分歧:坚持还是放弃

    9月8日早间消息。 激励性竞争导致中国电商企业大力促销,但毫无疑问影响了企业的利润率。 。 对此,当当网与已上市的麦考林存在分歧:当当网将继续采取低价促销策略,而麦考林则选择减少促销力度。   根据麦考林昨日发布的财报,第二季度净利润为1万美元,与去年同期相比变

    06-17