以色列团队推出世界上最大的实验室培育牛排,由真正的牛细胞 3D 打印而成
06-21
在近日举办的亚洲CES上,地平线联合创始人&副总裁黄畅博士受邀在CES上发表主题为《边缘 AI 计算发展趋势》的演讲主论坛.在长达一小时的演讲中,黄畅和博士从边缘计算驱动的行业变革、AI能效与企业责任、有效算力的定义、地平线的开放等角度,分享了他对人工智能时代边缘计算的思考。
赋能策略和开发者平台。
洞察趋势,深度解读地平线“AI在地平线,同行”战略。
黄畅表示,地平线愿意成为一家平台公司,愿意作为技术基础,支持客户,与客户一起前进,实现客户价值。
全球知名研究公司Gartner的技术成熟度曲线显示,人工智能惠及大众的时代已经开始,正在为各行业创造新的价值。
在这个过程中,我们会面临哪些挑战?随着人工智能的商业化,最重要的挑战是数据量的指数级增长,数据量呈现出两个关键特征:数据的实时性和安全性。
根据国际数据公司(IDC)白皮书《数据时代 》预测,2019年,超过25%的数据将成为实时数据,其中95%是由物联网终端产生的,且大部分无法实时传输。
直接创造价值,需要通过计算细化;全球总数据的20%将直接关系到人们的日常生活甚至生存安全。
在Gartner的技术成熟度曲线上,很多AI技术和应用都出现在这条曲线上。
Gartner还在报告中首次明确提出,AI民主化意味着普惠,这也预示着我们将面临更加严峻的挑战。
数据挑战。
这给数据计算带来了严峻的挑战。
如何高效地处理海量数据并挖掘其价值,在秒级甚至毫秒级处理实时数据,同时保护数据隐私?随着5G商用,终端接入网络容量大幅扩展,实时性要求进一步提高。
但由于骨干网扩容成本高、延迟大,在边缘侧形成数据堰塞湖,边缘计算势在必行。
英特尔曾表示:MEC(多接入边缘计算)不一定需要5G,但5G一定需要MEC。
在边缘计算的支持下,5G的商业价值才能真正实现。
针对当前物联网数据计算面临的问题,边缘计算具有五大优势: 1、可靠性高,离线也能正常运行; 2、安全合规,满足隐私要求; 3、降低数据传输和存储成本; 4、实时性高,减少响应延迟; 5、计算设备灵活部署,高效协作。
AI计算可分为云计算、边缘计算、端计算三个层次。
它们在AI算力、实时性能和计算通用性三个维度上各有所长:云计算面向的是最通用的计算。
在所有计算中,云计算的时空范围最大,且具有多样性。
最强,要求计算能力最高,但实时性较差,与场景关联性较弱;云还拥有最丰??富的数据类型,可以跨越多个维度,因此可以完成复杂的认知计算和模型训练。
端计算则是另一个极端,与场景的关联性最强,计算专用性非常强,追求极致的效率。
主要以推理为主。
位于中间的边缘计算是一个新物种。
它就像我们的脊柱,连接我们的大脑(云)和神经末梢(端)。
其计算能力远胜终端,对功耗的承受能力也远高于终端。
与云端相比,其实时性更好,并且可以根据具体场景进行优化。
5G技术的应用可以大幅提高边缘与端之间的数据带宽和传输时延,使其能够结合云与端的优势,改变现有的网络互联格局。
5G时代的物联网需要端边云协同,寻找更大规模的AI解决方案的最优方案。
5G时代的物联网模式也将随之改变,边缘计算成为数据过滤器和控制阀。
通过它的处理,只需将万分之一的有效数据上传到云端进行处理,大大减轻了骨干网的数据传输压力。
传统互联网时代,存在端云二元计算架构。
数据不断传输到云端并进行处理,终点只是流量入口。
然而边缘计算的加入却带来了新的变数。
它构建了端与云之间的结构。
它创造了新的可能性,它对数据的掌控将带来新的商业范式转变。
从技术角度来看,边缘计算具有改造传统互联网计算架构的潜力,将带来从软件到硬件的新架构变革。
。
人工智能的普及带来新价值的同时,也带来了新的能源危机。
如今,数据中心消耗的电力数量惊人。
据《中国数据中心能耗现状白皮书》统计,中国有40万个数据中心。
每个数据中心平均耗电量25万千瓦时,总计超过1亿千瓦时。
这相当于三峡水电站和葛洲坝水电站的年发电量。
和。
如果折算成碳排放量,约为1万吨,是目前中国民航年碳排放量的近三倍。
数据中心的平均能耗是大型商业办公楼的三倍以上。
服务器供电和冷却所需的能源占数据中心总运营成本的 40%,因此数据中心能源效率低下的问题不容忽视。
为了减少电力消耗,阿里巴巴的数据中心建在张北。
张北多风,年平均气温不足3摄氏度。
这就像一个自然散热场,从而降低了冷却系统的功耗。
预计仅数据中心的冷却能耗即可降低45%。
腾讯的数据中心建在贵州省贵安新区的两座山上,也是为了散热。
为了降低能耗,全球最大的数据中心将建在北极圈,总功率超兆瓦(来源:KOLOS官网)。
可以预见,未来我们需要的数据计算量将会以数量级快速增长。
,那么这样的能耗方式就很难维持。
因此,通过极致的人工智能能效提升来减少碳排放,成为人工智能企业新的社会责任,即充分利用有限的能源创造更大的价值。
在传统芯片行业,PPA(计算能力、功耗和面积)是最经典的性能衡量指标。
但在人工智能时代,我们需要新的范式来定义性能。
当前行业存在一个很大的误区,往往将峰值算力作为衡量AI芯片的主要指标。
但我们真正需要的是有效的计算能力及其输出的算法性能。
这需要从四个维度来衡量:每瓦峰值算力、每美元峰值算力(由芯片架构、前后端设计、芯片技术决定)、峰值算力的有效利用(由算法决定)和芯片架构)决定),以及有效算力与AI性能的比例(主要是速度和准确度,由算法决定)。
过去业界普遍使用Resnet等模型,但今天我们使用像MobileNet这样设计更精致的小模型,可以用1/10的算力达到同样的精度和速度。
然而,这些精心设计的算法给计算架构带来了巨大的挑战,往往导致传统设计的计算架构的有效利用率大幅下降。
从最终的AI表现来看,是得不偿失。
Horizo??n最大的特点是预测重要应用场景中关键算法的发展趋势,并主动将其计算特性融入到计算架构的设计中,这样经过一两年的研发,AI处理器就可以上线时,依然能够很好的适应最新的主流算法。
因此,与其他典型的AI处理器相比,地平线的AI处理器能够随着算法的演进始终保持非常高的有效利用率,从而真正受益于算法创新带来的优势。
地平线AI芯片核心能力:算法+芯片联合优化和灵活性,高效架构服务经典和未来算法设计。
掌握了算法和计算架构,我们才有巨大的潜力。
编译器可以将两者结合起来进行极致优化,释放所有潜力。
举个实际例子,在不进行优化的情况下,峰值算力有效利用率为34%;但编译器优化指令序列后,该值增加到85%。
这使得芯片的处理速度提高了2.5倍,也就是说,处理相同数量的任务时,功耗降低了40%。
利用未来重要应用场景中的关键算法发展趋势来指导地平线AI芯片的架构设计。
效率第一,兼顾灵活性。
这是地平线一直以来的设计理念——极致的AI能效是地平线在产品中始终做到的。
理想和追求。

我们创业这几年,深切感受到人工智能从技术论证到商业落地的路很长。
对于大多数公司来说,将人工智能解决方案集成到客户的产品中以赋能并取得成功并不是一个低优先级的事情。
临界点。
所以我们每天都在努力研究如何降低集成我们解决方案的难度。
为此,地平线设计了包括数据、训练、部署在内的完整算法开发流程,并开发了全栈AI平台工具来高效支撑这一开发流程。
我们甚至提供了大量优秀的算法模型和原型系统作为客户的参考示例。
通过这些工具和例子,客户可以模仿猫快速开发出自己产品所需的算法,不断迭代,由浅入深进行全方位优化,挖掘自己在数据和算法上的独特价值。
支持多种开源框架的 Horizo??n 开发工具 Horizo??n 的全栈 AI 平台工具链包括数据、培训和设备部署工具。
它们形成闭环并高效运行。
数据生成模型,可以部署到设备上运行。
在操作过程中,他们可以指导模型调整,甚至收集新数据。
这样的开发模式可以提高开发速度、降低开发门槛、保证开发质量。
我们目前的评估结果是现实的。
可减少开发人力约30%,节省开发时间50%。
更重要的是,由于开发门槛降低,开发者规模甚至可以扩大一个数量级。
地平线AI开发平台:加速Software2.0全流程研发地平线将持续升级开发工具,为客户提供半自动化的处理流程,包括:数据工具和模型、模型与终端设备之间的闭环迭代;丰富的模型/系统参考原型,简单易用、直观便捷的交互手段;标准化的开发流程,加上持续的测试、集成和部署机制。
基于开放、赋能客户,快速满足不同客户需求,是地平线AI平台服务客户的宗旨。
我们需要节省更多的开发时间,节省更多的开发人员,让越来越多的企业参与人工智能。
在发展环境上,打造良好的生态基础平台。
在当前能源消耗巨大的AI时代,地平线利用自身独特的优势和服务理念,为客户提供高性价比且易继承的产品、友好的开发工具和参考样本、先进的计算架构、前沿的算法支持和优质的服务。
我们帮助合作伙伴开发了许多成功的产品,例如工地头盔检测、小爱音箱、理想一多音区语音交互解决方案、众包高精度语义图产品等。
我们还加入了96Boards开源社区拥抱更广阔的发展生态系统。
我们愿意做一个平台公司,一个技术基地,用地平线的AI赋能客户。
我们从来不认为创业是一场聚会,而是与客户一起的旅程。
我们将继续与客户一起,实现客户价值,履行使命,赋能万物,让每个人的生活更安全、更美好。
谢谢你们! 雷锋网版权文章未经授权禁止转载。
详情请参阅转载说明。
版权声明:本文内容由互联网用户自发贡献,本站不拥有所有权,不承担相关法律责任。如果发现本站有涉嫌抄袭的内容,欢迎发送邮件 举报,并提供相关证据,一经查实,本站将立刻删除涉嫌侵权内容。
标签:
相关文章
06-21
06-18
06-17
06-18
06-18
最新文章
Android旗舰之王的过去与未来
智能手表不被开发、AR眼镜被推迟,Meta的产品经历了一波三折
为什么Cybertruck是特斯拉史上最难造的车?
更新鸿蒙3后,文杰允许你在车里做PPT了
新起亚K3试驾体验:追求“性价比”,韩系汽车仍不想放弃
阿维塔15登场!汽车配备了增程动力,理想情况下会迎来新的对手吗?
马斯克宣布创建 ChatGPT 竞争对手! OpenAI的CEO给他泼了冷水, GPT-5可能会发生巨大变化
骁龙无处不在,是平台也是生态