首页 > 科技启迪 > 内容

地平线 联合创始人与副总裁黄畅:打造AI计算平台的地平线要有边界感 - CCF-GAIR 2019

发布于:2024-06-17 编辑:匿名 来源:网络

雷锋网:7月12日至7月14日,第四届全球人工智能与机器人峰会(CCF-GAIR)在深圳正式举行。

本次峰会由中国计算机学会(CCF)主办,雷锋网、香港中文大学(深圳)承办,深圳市人工智能与机器人研究院协办。

其得到了深圳市政府的大力指导,是国内人工智能和机器人学术界和产业界的重要论坛。

是产业界和投资界三大领域的顶级交流博览盛会,旨在打造国内人工智能领域强大的跨境交流合作平台。

“业界把我们归类为AI芯片公司,但我们实际上把自己定位为比芯片稍大一点的公司。

我一直想说我们是一家技术平台公司,软件和硬件结合在一起。

”在第四届全球人工智能与机器人峰会上,地平线联合创始人和副总裁黄畅对此进行了解释。

在7月13日举行的AI芯片论坛上,黄畅发表了题为“《打造极致效能的AI计算平台,构建安全、美好的智能世界》”的主题演讲。

黄畅在演讲中表示,地平线希望定义真正的AI芯片性能。

传统芯片性能指的是PPA,包括Power、Performance、Aera(性能、功耗、面积)。

现在比较主流的指标是TOPS/Watt和TOPS/$,能效比和性价比是用户关心的。

算法不断发展,设备利用率由架构和编译器决定。

架构将算法转化为相对于架构而言最优的质量、顺序和执行模式。

Horizo??n的核心是算法+芯片联合优化,兼顾灵活高效的架构,服务于经典和未来的算法设计。

“Horizo??n力求能够更好地预测、把握、选择未来真正重要的AI算法的趋势,并将算法和发展趋势拆解并整合到架构中,以便我们能够提前预测可能发生的事情。

”未来将成为主流,提前将有效的算法考虑到计算架构中非常重要。

”黄畅提到。

作为一家AI芯片独角兽公司,黄畅在采访中多次谈到“边界”。

数据、AI模型和设备形成闭环。

这个闭环组合成一个高速循环,快速推动人工智能的技术发展和商业化。

在这个过程中,如何想办法让专家、开发者、AI工程师等不同角色找到舒适区,将开发模式转变为平台,至关重要。

Horizo??n希望成为一家平台公司。

生态还是生态,对于地平线来说是一个不再需要犹豫的问题。

平台公司首先考虑的是平台的深度和广度。

黄畅对此已经做出了成熟的判断。

平台的核心竞争力在于技术集成,从算法到架构再到后端集成。

技术链接越长,集成优势就越大。

“但同时,我们也必须注意到,融合不能是无边界的。

你总要判断你的核心竞争力在哪里,它的外延是什么,什么时候外延会成为你的主要矛盾,从而将它们纳入你的核心竞争力之中。

去吧,因为很多技术栈其实应该留给行业上游或者下游,所以我们要有边界感和自我意识。

当然这个东西是动态变化的,取决于技术的发展、整个行业的发展、公司自身能力的发展。

通用芯片和专用芯片并行发展。

趋势如何发展是所有业内人士都关心的话题。

黄畅认为,通用芯片和专用芯片各有各的特点例如,通用芯片也将通过专用架构来增强其自身的竞争力,“通用芯片和专用芯片将逐渐趋同”。

各自的出发点。

当然,在这个过程中,长期的整合必然会分裂,长期的分裂必然会合并。

它在某些历史市场中可能具有非常特殊的用途。

这也是完全有可能的。

” 地平线联合创始人与副总裁黄畅 以下为黄畅演讲全文,经雷锋网编辑,不改变原意: 黄畅:最近经常来CCF,我的标题是《打造极致效能的AI计算平台,构建安全、美好的智能世界》。

著名的Gartner曲线,Gartner曲线显示了AI的踪迹,后来出现了很多AI技术和应用,有的逐渐浮现出来,有的已经触底,有的处于成熟的发展过程中,这是今年8月发布的最新Gartner曲线,列出了十大AI技术,并首次明确提出AI的普及化,这说明经过了这么多年。

历经洗礼,大家已经逐渐形成共识,人工智能技术及其产生和支撑的产品将会对我们未来各个层面的社会生活产生深远的影响。

到2020年,所有数据中25%以上将是实时数据,其中95%以上来自物联网终端。

到2020年,全球数据总量的20%将是与生产、安全密切相关的数据。

如何更好、更快、更安全地处理这些数据成为首要任务。

今天上午的特别会议是关于5G和AIoT的。

5G技术的出现,让边缘计算成为可能或者说是迫切的需求。

对于5G技术来说,其实非常需要MEC多接入点的边缘计算。

是基于5G的重要应用。

没有这个应用,5G技术的推广和普及就缺乏牵引力。

这句话英特尔也说过。

边缘计算将解决AI IoT的哪些核心问题?每辆自动驾驶汽车每天都会产生数 TB 的数据,这相当于整个互联网在 2018 年产生的数据量。

这是因为每辆自动驾驶汽车现在都拥有十多个摄像头和多个激光雷达。

这些摄像机都是高分辨率、高清晰度、高帧率。

边缘计算的核心问题是如何提高计算的可靠性,使其能够离线正常运行,保证安全合规,满足隐私要求。

任何数据在上传到云端之前都必须进行脱敏处理。

数据来回传输,无论是有线还是无线,从成本、功耗和技术安装来看,成本都不低。

5G技术虽然可以破解边缘的传输,但几百米范围内的传输并没有改变骨干网络。

带宽将极大地吸收数据网络,很快5G基站附近就会产生数据堰塞湖,必须快速计算和处理。

将其中非常有意义的部分上传到云端是一种有效的数据压缩方式。

边缘计算还具有灵活部署、高效协作的特点。

最近有一个热门词叫“车路协同”。

如果自动驾驶走特斯拉的路,依靠汽车本身的能力来推动,这也可能是L5级别的自动驾驶。

坦白讲,L4级自动驾驶目前不得不限制车辆在真实环境中可以运行的环境和区域。

该地区路端布局的改造可以大大缩短自动驾驶大规模运营的时间。

这里也可以体现末端的边缘计算,比如自动驾驶或者自主机器人的高效协作。

高实时计算减少响应延迟,这无疑是自动驾驶的必要条件。

传统上只有一端一云,所有数据都从端流向云端。

5G的发展让边缘计算成为新的变量。

其实我们可以看到,边缘计算肯定会带来商业范式的转变,包括现在运营商和传统设备商其实都看到了边缘计算的巨大商机,而且它里面的技术变革将会是非常深刻的,因为它有以下特点:传统终端和云端。

让我们再看看人工智能包容性和民主化背后的原因。

数据计算导致了巨大的能源消耗。

举个例子,2016年做了一个全国性的统计,发现中小型数据中心分布在全国各地。

比如我的家乡贵州,水电、煤电丰富,洞穴多,气候凉爽,特别适合建筑。

机房。

小型数据中心每年的用电量比三峡大坝的发电量还多。

同等数量的碳排放量甚至是民航中心碳排放量的两倍、民航碳排放量的两倍。

这是一个可怕的数据。

不仅是中国,全国各地都在建设大型数据中心。

例如,Facebook正在海底建设数据中心。

最大的数据中心将位于北极圈,功率超过兆瓦。

人工智能公司无论是做算法、做应用还是做芯片,都必须承担一些社会责任。

未来将会有巨大的AI计算需求。

比如我们看到谷歌前段时间说他们训练了非常好的模型并进一步使用了它们。

NANS自动搜索技术使用了数千个GPU运行了两个月,找到了一个很好的结构,将机器翻译模型推向了极致,这就是我们看到的实时翻译的模型。

但你知道训练这个模型要消耗多少电量吗?碳排放量相当于五辆汽车一年的排放量,并且只训练一个模型一次。

如果模型用于推理,随着时间的推移,其能耗将增加数百倍或数千倍。

我们不能忽视享受GPU集群训练和推理背后的巨大能耗。

我最近看到一份报告,说人类社会这几年已经无法避免二氧化碳排放量的急剧增加。

纵观几十年的规模,有人说这是“自掘坟墓”。

这就是我们的社会。

责任。

地平线要做什么?我们想要定义真正的AI芯片性能,它与功耗和成本密切相关。

传统的芯片性能,做芯片的人都知道,PPA,Power Performance Aera,比如一秒执行多少条指令?现在比较主流的是AI芯片每瓦特需要多少计算能力。

(还有)TOPS/$。

不到10%是我们自己测得的,经常被DDR带宽挡住。

我们得到的利用率是TOPS/$,大约是50%或80%。

我们还需要看看 TOPS 在多大程度上转化为人工智能性能。

通常是算法处理速度和精度,或者说单位时间内可以高精度处理多少数据?只有将这些东西加在一起,我们才能获得真正的AI性能。

TOPS能发挥多少AI性能?系统中算法不断演进,数据不断增加。

这么多的承压计算,还能处理多少数据?或者说性能能提升多少?设备利用率由体系结构和编译器决定。

架构和算法将算法转化为架构的最佳质量、顺序和执行模式。

性能是Horizo??n关注的核心。

我们的核心是算法进化、架构同行。

以下是算法演化的时间线。

随着时间不断向前发展,轻量级算法实现了更好的精度。

在相同的计算量下,我们正在提高精度和处理速度。

不可避免的是,我们将算法应用到传统的计算架构上,传统的计算架构并没有充分考虑到计算的变化和算法改变计算模型。

如果计算架构考虑得不好,算法带来的计算模型的变化将会明显减少。

Horizo??n致力于更好地预测、把握和选择未来真正重要的AI算法趋势,并将算法和发展趋势拆解并整合到架构中,以便我们能够提前预测可能最有效的算法。

成为未来的主流。

提前将算法考虑到计算架构中非常重要。

前两年,大量AI处理器集中精力优化3×3卷积,并且以一种看似漂亮的方式做到了。

结果就是他们没能把握算法的发展趋势。

3×3 密集卷积正在被放弃。

未来,这种开发方式将颠覆以往的最优开发模式。

针对当前主流算法设计的计算架构,在当前算法快速演进的时代,到实际使用的时候一两年后就会因为利用率低而轻易被淘汰。

传统GPU使用相对传统的方法,但他发现即使部署新算法,精度也无法提高。

我们特别注重算法和芯片的优化,兼顾灵活性和通用性。

我们的首要任务是追求极致的能源效率和性价比。

有很多工作要做,不仅仅是算法和架构,还有它们的许多编译器和扩展。

例如,架构设计需要考虑未来重要场景中的关键算法。

我们需要实验、探索、判断,包括与业界广泛沟通,共同定义未来哪些场景重要,哪些关键算法未来重要。

产品驱动的思想进行敏捷的架构迭代。

地平线 联合创始人与副总裁黄畅:打造AI计算平台的地平线要有边界感 - CCF-GAIR 2019

架构本身就是一种设计,它可以像软件一样快速迭代。

计算架构的实现技术涉及到的软件较多,而现在流行的HLS技术被大家用来快速迭代架构甚至芯片模型。

我们的首要任务是效率,同时考虑灵活性、架构??、算法以及它们之间的联系。

编译器,如紧凑型片上存储器、计算弹性张量核心、模型结构调整、可编程流处理架构、算子芯片联合优化、精简指令集设计等。

我是算法出身的,和建筑师有很多联系。

经过深入的讨论,我强烈的诉求是让软件尽可能多地做事,提供无与伦比的灵活性。

这给我们的编译器提供了很大的后续优化空间,甚至可以满足我们设计的芯片上所没有的要求。

在高速变化的场景中看到可能性非常重要。

这些是一些具体的例子。

左图显示了处理大图像和小模型的相同的两个芯片。

如果我们不做特殊的优化,按照更传统的方法,类似于GPU流处理,我们发现它的帧速率是多兆字节。

受DDR带宽限制,只有34%。

如果我们利用大量的分割、多层集成、各种强大的机制以及各种内部架构设计特征,给编译器留下巨大的优化空间,我们可以将其利用率提高到84%,帧率提高两倍,带宽减少了一个数量级。

我们的芯片面积很小,片上存储相比很多AI芯片的片上存储来说并不是特别大,甚至更小。

正是基于非凡软件的推动和驱动的设计,给软件和编译器留下了巨大的空间,使我们的硬件变得非常高效。

再举一个具体的例子,我们用该芯片在City Scapes中做×、19类、像素级的语义分割。

它可以在多瓦 GPU 上实现 74.8% 的准确度和 8 毫秒。

单个芯片的功耗为数百瓦。

芯片面积超过平方米。

如果把GPU砍掉不使用的话,这个东西至少也就一平方米左右。

综合各方面考虑,有效面积至少要在平方米以上。

这会带来什么后果?如图所示,可以同时检测关键点和分段,一颗芯片支持四个通道。

这是我们的标准视觉感知解决方案,有12个摄像头,4个鱼眼和8个法线,提供丰富的视觉。

凭感知,这已经是标准套件了。

就是我们的Matrix自动驾驶计算平台。

它获得了许多奖项,包括CES等多个组织的奖项。

已成功推广至海外领先汽车厂商,并作为自动驾驶套件进入量产阶段。

视觉感知的标准模块,这是一个非常成功的产品。

GPU 运行通常不可能用一个 GPU 来实现。

我们只使用三颗芯片,比 GPU 低一个数量级,成本也低一个数量级。

我们可以解决这个问题。

这是技术可以用于3D建模、完全可视化建模、以极低功耗进行实时高速3D建模的又一案例。

当你第一眼看到这张图片时,你会感觉这是一张激光扫描的图片。

前置摄像头看着前方的画面,就像行车记录仪一样,可以进行三维场景的高精度测绘。

我们和国外厂商也在开发这项技术。

合作已进入规模化应用阶段。

前面我讲了很多算法和芯片的变化,但光是这些仍然是一个潜力,需要让它们变得更方便人们使用。

软件开发发生了质的变化。

1.0时代,我们更多的是让人去理解规则,把复杂的问题分解成很多子规则,通过差异化的模型来描述,再分解去解决。

软件开发时代已经成为数据驱动的时代。

您只需要收集问题的数据并标记它们。

剩下的,包括如何对问题进行拆解和建模,就可以交给机器学习,尤其是深度神经网络的模型和方法。

这件事将会给软件开发带来翻天覆地的变化。

这是Reference,需要对接主流框架,进行量化、高效的训练、测试、分析,最后部署在我们的芯片上。

这是一个开放的平台,支持开源的方向。

数据、AI模型和设备形成闭环。

这个闭环结合高速循环,快速推动人工智能的技术发展和商业化。

我们经常谈论良好的识别。

什么是好的辨识度?从长远来看,要很好地识别芯片也是非常困难的。

如果我们很好地结合工具链,就可以大大减少开发人员数量,减少开发时间,大大扩大开发人员规模。

右边是传统的工具链,只有专业的专家才能应用,但它足够灵活,有足够的底层来解决各种问题。

由于开发者人数有限,资源瓶颈注定是那些资质足够、水平足够的人。

对于AI开发工程师来说,左端是封闭的SQL。

只能针对一些高频的专门场景来构建。

它的应用场景非常熟悉,所以我们需要找到一种门槛低但适用性足够广的适度开发模式。

将这种开发模式转变为平台化工具,为整个行业赋能。

赋能万物,让每个人的生活更安全、更美好,是地平线的使命,也是我们创立公司的初衷。

这张图中从上到下,可以看到碎片化的场景,包括智慧城市、智慧商业、自动驾驶、服务机器人、脑机接口,中间还有各种AI计算技术。

人类智能的顺序可以分为感知、建模、预测、决策、认知。

底层支撑是通用AI计算平台,包括硬件、芯片、软件、工具链、标准算法等。

采用地平线定位技术,不接触数据,不做应用。

我们提供极致功耗和效率的超高性价比芯片、非常开放的工具链和算法模型样本。

我们专注于自动驾驶和AIoT,同时也加入生态开源社区,加速AI赋能。

这是我们的新口号“AI ON HORIZON”。

我们希望为全行业打造一个通用的人工智能应用平台,为客户赋能,让人工智能技术更好、更早地普及,造福所有人。

人生,同行是我们的庄严承诺,谢谢大家。

相关文章:《车载智能计算基础平台参考架构1.0》发布,地平线携手主机厂推动自动驾驶落地。

Horizo??n 携手 Ideal,为 Ideal ONE 打造精准的全车语音交互。

地平线 联合创始人与副总裁黄畅:打造AI计算平台的地平线要有边界感 - CCF-GAIR 2019

站长声明

版权声明:本文内容由互联网用户自发贡献,本站不拥有所有权,不承担相关法律责任。如果发现本站有涉嫌抄袭的内容,欢迎发送邮件 举报,并提供相关证据,一经查实,本站将立刻删除涉嫌侵权内容。

标签:

相关文章

  • 智能财税服务品牌“慧算账”获6000万美元C+轮融资

    智能财税服务品牌“慧算账”获6000万美元C+轮融资

    投资圈(微信ID:pedaily)据5月7日消息,慧算账近日正式宣布获得1万美元C+轮融资,阳光生活领投保险和高诚资本。 、小米集团、雨燕哈弗也参与了投资。 此前,慧算账的最后一轮融资是今年9月的数亿元C轮融资,由高诚资本领投,小米跟投。 慧算账定位为互联网智能财税服务品牌

    06-17

  • 龙加智科技与SiFive达成合作开发低延迟、高性能AI处理器平台

    龙加智科技与SiFive达成合作开发低延迟、高性能AI处理器平台

    雷锋网消息,2月25日,商用RISC-V处理器核心IP、设计平台提供商领导者SiFive和芯片解决方案,宣布将与人工智能处理器和高性能关键任务应用软件领域的创新公司龙加智科技达成合作。 两家公司将共同开发低延迟、高性能的关键任务AI处理器平台,为超低延迟应用实现极致性能,可用

    06-17

  • 先别急着为IPO重启叫好:《意见》没有提及退出机制

    先别急着为IPO重启叫好:《意见》没有提及退出机制

    11月结束的党的十八届三中全会在资本市场改革中明确提出“要推动股票发行注册制改革。 ”证监会也在11月最后一天发布《中国证监会关于进一步推进新股发行体制改革的意见》(以下简称《意见》),响应号召,提出“股票发行审核要以信息披露为重点”。 已暂停一年多的IPO市场预

    06-18

  • 科大讯飞刘庆峰新年致辞:追求2023年高质量增长

    科大讯飞刘庆峰新年致辞:追求2023年高质量增长

    岁末年初,各大企业的“年终总结”纷纷到来。 中国经济终于告别了疫情。 今年不仅面临挑战,也有望迎来新形势。 科大讯飞董事长刘庆峰在最新的内部讲话中坦言,2017年公司在诸多不确定因素中稳住了局面,将以更高的质量、更从容地向千亿目标迈进。 1月18日,科大讯飞董事长刘

    06-17

  • 华硕灵耀Pro16体验:4K OLED屏幕加30系列独立显卡,释放你的创造力

    华硕灵耀Pro16体验:4K OLED屏幕加30系列独立显卡,释放你的创造力

    在华硕笔记本产品线中,有很多专为创作者设计的产品系列,它们兼具轻薄机身和创意表现都不错许多消费者心目中的选择。 每个产品系列都具有独特的功能。 有些采用双屏设计,使工作效率提高一倍;有的采用4K OLED面板,画质表现令人惊叹。 虽然进化的方向不同,但它们的目的却惊

    06-21

  • 中电院45湿法设备已进入国内主流8英寸芯片生产线

    中电院45湿法设备已进入国内主流8英寸芯片生产线

    中国电子报 近日,中电院45研发的双8英寸全线自动化湿法设备中科院四十五所(以下简称四十五所)已进入国内主流8英寸芯片生产线。 国内主流FAB厂。 全线设备满足8英寸90nm~nm工艺节点,适用于8-12英寸BCD芯片工艺中的湿化学工艺。 晶圆尺寸和工艺线宽度代表了湿法设备的工艺

    06-06

  • 思象科技完成新一轮数千万元融资,由北航投资

    思象科技完成新一轮数千万元融资,由北航投资

    投资圈(ID:pedaily)领投 据11月11日消息,北京思象爱数科技有限公司(以下简称“思象爱数”) “思象科技”)近日完成新一轮数千万元融资,由北航投资领投。 本轮融资将用于设备和研发,包括3颗卫星的建设以及6-7个通用标准化产品的定型。 “思象科技”成立于2007年,是一

    06-17

  • 酒店科技初创公司 Akia 获 100 万美元融资

    酒店科技初创公司 Akia 获 100 万美元融资

    投资社区(ID:pedaily)6 月 19 日消息,据品城旅游报道,Facebook 前工程师团队创立的酒店科技初创公司 Akia 提前获得融资阶段风险投资公司金沙江创投投资1万美元融资。 据了解,Akia成立于2007年,提供人工智能平台,让酒店能够为客人提供非接触式服务,方便办理入住、与

    06-17

  • 拌饭连锁品牌“耀明韩式拌饭”完成数百万美元天使轮融资

    拌饭连锁品牌“耀明韩式拌饭”完成数百万美元天使轮融资

    据投资界(ID:pedaily)1月18日消息,拌饭连锁品牌“耀明韩式拌饭”宣布完成数百万天使轮融资完成数字百万天使轮融资。 投资方为中国餐饮零售数字化运营服务商上海时恒科技。 创始人透露,本轮融资将主要用于品牌店规模和市场的扩张,显示出米悦对未来发展的坚定信心和明确

    06-17

  • 中汽协陈士华:芯片供应紧张的局面将延续到三季度,四季度或有缓解

    中汽协陈士华:芯片供应紧张的局面将延续到三季度,四季度或有缓解

    中国汽车工业协会陈士华:芯片供应紧张状况将持续到第三季度,第四季度可能得到缓解在商研有色金属论坛上,中国汽车工业协会副秘书长陈士华表示,从影响周期来看,二季度的大影响是缺货持续的概率很大。 主要原因是芯片荒发生后,上游芯片企业新增产能尚未充分释放,目前供需

    06-17

  • 超奋科技完成Pre-A轮融资,估值超亿元

    超奋科技完成Pre-A轮融资,估值超亿元

    投资界(ID:pedaily)消息,近日,超奋科技完成Pre-A轮融资,估值近10万元。 过亿人民币,投资方在军民融合领域拥有多年行业经验和深厚资源能力,易云财务官(CFO)担任专属财务顾问。 据悉,超飞科技是一家先进装备开发商,主要从事高分辨率核能谱测量和痕量分析关键技术的

    06-17

  • 美媒:微软将以超500亿美元收购动视暴雪,成为公司历史上最大一笔收购

    美媒:微软将以超500亿美元收购动视暴雪,成为公司历史上最大一笔收购

    彭博1月18日消息,通报人士表示,微软即将达成收购动视暴雪的交易,这将成为微软历史上规模最大的收购。 据《华尔街日报》报道,微软收购动视暴雪的金额将超过1亿美元。 据报道,该交易最早可能在当地时间周二宣布。 一位内部人士表示,这笔交易将使动视暴雪的估值接近1亿美元

    06-17