首页 > 科技未来 > 内容

打造极致性能的边缘AI计算基础解决方案,构建绿色安全的智能世界

发布于:2024-06-18 编辑:匿名 来源:网络

在近日举办的亚洲CES上,地平线联合创始人&副总裁黄畅博士受邀在CES上发表主题为《边缘 AI 计算发展趋势》的演讲主论坛.在长达一小时的演讲中,黄畅和博士从边缘计算驱动的行业变革、AI能效与企业责任、有效算力的定义、地平线的开放等角度,分享了他对人工智能时代边缘计算的思考。

赋能策略和开发者平台。

洞察趋势,深度解读地平线“AI在地平线,同行”战略。

黄畅表示,地平线愿意成为一家平台公司,愿意作为技术基础,支持客户,与客户一起前进,实现客户价值。

全球知名研究公司Gartner的技术成熟度曲线显示,人工智能惠及大众的时代已经开始,正在为各行业创造新的价值。

在这个过程中,我们会面临哪些挑战?随着人工智能的商业化,最重要的挑战是数据量的指数级增长,数据量呈现出两个关键特征:数据的实时性和安全性。

根据国际数据公司(IDC)白皮书《数据时代 》预测,2019年,超过25%的数据将成为实时数据,其中95%是由物联网终端产生的,且大部分无法实时传输。

直接创造价值,需要通过计算细化;全球总数据的20%将直接关系到人们的日常生活甚至生存安全。

在Gartner的技术成熟度曲线上,很多AI技术和应用都出现在这条曲线上。

Gartner还在报告中首次明确提出,AI民主化意味着普惠,这也预示着我们将面临更加严峻的挑战。

数据挑战。

这给数据计算带来了严峻的挑战。

如何高效地处理海量数据并挖掘其价值,在秒级甚至毫秒级处理实时数据,同时保护数据隐私?随着5G商用,终端接入网络容量大幅扩展,实时性要求进一步提高。

但由于骨干网扩容成本高、延迟大,在边缘侧形成数据堰塞湖,边缘计算势在必行。

英特尔曾表示:MEC(多接入边缘计算)不一定需要5G,但5G一定需要MEC。

在边缘计算的支持下,5G的商业价值才能真正实现。

针对当前物联网数据计算面临的问题,边缘计算具有五大优势: 1、可靠性高,离线也能正常运行; 2、安全合规,满足隐私要求; 3、降低数据传输和存储成本; 4、实时性高,减少响应延迟; 5、计算设备灵活部署,高效协作。

AI计算可分为云计算、边缘计算、端计算三个层次。

它们在AI算力、实时性能和计算通用性三个维度上各有所长:云计算面向的是最通用的计算。

在所有计算中,云计算的时空范围最大,且具有多样性。

最强,要求计算能力最高,但实时性较差,与场景关联性较弱;云还拥有最丰??富的数据类型,可以跨越多个维度,因此可以完成复杂的认知计算和模型训练。

端计算则是另一个极端,与场景的关联性最强,计算专用性非常强,追求极致的效率。

主要以推理为主。

位于中间的边缘计算是一个新物种。

它就像我们的脊柱,连接我们的大脑(云)和神经末梢(端)。

其计算能力远胜终端,对功耗的承受能力也远高于终端。

与云端相比,其实时性更好,并且可以根据具体场景进行优化。

5G技术的应用可以大幅提高边缘与端之间的数据带宽和传输时延,使其能够结合云与端的优势,改变现有的网络互联格局。

5G时代的物联网需要端边云协同,寻找更大规模的AI解决方案的最优方案。

5G时代的物联网模式也将随之改变,边缘计算成为数据过滤器和控制阀。

通过它的处理,只需将万分之一的有效数据上传到云端进行处理,大大减轻了骨干网的数据传输压力。

传统互联网时代,存在端云二元计算架构。

数据不断传输到云端并进行处理,终点只是流量入口。

然而边缘计算的加入却带来了新的变数。

它构建了端与云之间的结构。

它创造了新的可能性,它对数据的掌控将带来新的商业范式转变。

从技术角度来看,边缘计算具有改造传统互联网计算架构的潜力,将带来从软件到硬件的新架构变革。

人工智能的普及带来新价值的同时,也带来了新的能源危机。

如今,数据中心消耗的电力数量惊人。

据《中国数据中心能耗现状白皮书》统计,中国有40万个数据中心。

每个数据中心平均耗电量25万千瓦时,总计超过1亿千瓦时。

这相当于三峡水电站和葛洲坝水电站的年发电量。

和。

如果折算成碳排放量,约为1万吨,是目前中国民航年碳排放量的近三倍。

数据中心的平均能耗是大型商业办公楼的三倍以上。

服务器供电和冷却所需的能源占数据中心总运营成本的 40%,因此数据中心能源效率低下的问题不容忽视。

为了减少电力消耗,阿里巴巴的数据中心建在张北。

张北多风,年平均气温不足3摄氏度。

这就像一个自然散热场,从而降低了冷却系统的功耗。

预计仅数据中心的冷却能耗即可降低45%。

腾讯的数据中心建在贵州省贵安新区的两座山上,也是为了散热。

为了降低能耗,全球最大的数据中心将建在北极圈,总功率超兆瓦(来源:KOLOS官网)。

可以预见,未来我们需要的数据计算量将会以数量级快速增长。

,那么这样的能耗方式就很难维持。

因此,通过极致的人工智能能效提升来减少碳排放,成为人工智能企业新的社会责任,即充分利用有限的能源创造更大的价值。

在传统芯片行业,PPA(计算能力、功耗和面积)是最经典的性能衡量指标。

但在人工智能时代,我们需要新的范式来定义性能。

当前行业存在一个很大的误区,往往将峰值算力作为衡量AI芯片的主要指标。

但我们真正需要的是有效的计算能力及其输出的算法性能。

这需要从四个维度来衡量:每瓦峰值算力、每美元峰值算力(由芯片架构、前后端设计、芯片技术决定)、峰值算力的有效利用(由算法决定)和芯片架构)决定),以及有效算力与AI性能的比例(主要是速度和准确度,由算法决定)。

过去业界普遍使用Resnet等模型,但今天我们使用像MobileNet这样设计更精致的小模型,可以用1/10的算力达到同样的精度和速度。

然而,这些精心设计的算法给计算架构带来了巨大的挑战,往往导致传统设计的计算架构的有效利用率大幅下降。

从最终的AI表现来看,是得不偿失。

Horizo??n最大的特点是预测重要应用场景中关键算法的发展趋势,并主动将其计算特性融入到计算架构的设计中,这样经过一两年的研发,AI处理器就可以上线时,依然能够很好的适应最新的主流算法。

因此,与其他典型的AI处理器相比,地平线的AI处理器能够随着算法的演进始终保持非常高的有效利用率,从而真正受益于算法创新带来的优势。

地平线AI芯片核心能力:算法+芯片联合优化和灵活性,高效架构服务经典和未来算法设计。

掌握了算法和计算架构,我们才有巨大的潜力。

编译器可以将两者结合起来进行极致优化,释放所有潜力。

举个实际例子,在不进行优化的情况下,峰值算力有效利用率为34%;但编译器优化指令序列后,该值增加到85%。

这使得芯片的处理速度提高了2.5倍,也就是说,处理相同数量的任务时,功耗降低了40%。

利用未来重要应用场景中的关键算法发展趋势来指导地平线AI芯片的架构设计。

效率第一,兼顾灵活性。

这是地平线一直以来的设计理念——极致的AI能效是地平线在产品中始终做到的。

理想和追求。

打造极致性能的边缘AI计算基础解决方案,构建绿色安全的智能世界

我们创业这几年,深切感受到人工智能从技术论证到商业落地的路很长。

对于大多数公司来说,将人工智能解决方案集成到客户的产品中以赋能并取得成功并不是一个低优先级的事情。

临界点。

所以我们每天都在努力研究如何降低集成我们解决方案的难度。

为此,地平线设计了包括数据、训练、部署在内的完整算法开发流程,并开发了全栈AI平台工具来高效支撑这一开发流程。

我们甚至提供了大量优秀的算法模型和原型系统作为客户的参考示例。

通过这些工具和例子,客户可以模仿猫快速开发出自己产品所需的算法,不断迭代,由浅入深进行全方位优化,挖掘自己在数据和算法上的独特价值。

支持多种开源框架的 Horizo??n 开发工具 Horizo??n 的全栈 AI 平台工具链包括数据、培训和设备部署工具。

它们形成闭环并高效运行。

数据生成模型,可以部署到设备上运行。

在操作过程中,他们可以指导模型调整,甚至收集新数据。

这样的开发模式可以提高开发速度、降低开发门槛、保证开发质量。

我们目前的评估结果是现实的。

可减少开发人力约30%,节省开发时间50%。

更重要的是,由于开发门槛降低,开发者规模甚至可以扩大一个数量级。

地平线AI开发平台:加速Software2.0全流程研发地平线将持续升级开发工具,为客户提供半自动化的处理流程,包括:数据工具和模型、模型与终端设备之间的闭环迭代;丰富的模型/系统参考原型,简单易用、直观便捷的交互手段;标准化的开发流程,加上持续的测试、集成和部署机制。

基于开放、赋能客户,快速满足不同客户需求,是地平线AI平台服务客户的宗旨。

我们需要节省更多的开发时间,节省更多的开发人员,让越来越多的企业参与人工智能。

在发展环境上,打造良好的生态基础平台。

在当前能源消耗巨大的AI时代,地平线利用自身独特的优势和服务理念,为客户提供高性价比且易继承的产品、友好的开发工具和参考样本、先进的计算架构、前沿的算法支持和优质的服务。

我们帮助合作伙伴开发了许多成功的产品,例如工地头盔检测、小爱音箱、理想一多音区语音交互解决方案、众包高精度语义图产品等。

我们还加入了96Boards开源社区拥抱更广阔的发展生态系统。

我们愿意做一个平台公司,一个技术基地,用地平线的AI赋能客户。

我们从来不认为创业是一场聚会,而是与客户一起的旅程。

我们将继续与客户一起,实现客户价值,履行使命,赋能万物,让每个人的生活更安全、更美好。

谢谢你们! 雷锋网版权文章未经授权禁止转载。

详情请参阅转载说明。

打造极致性能的边缘AI计算基础解决方案,构建绿色安全的智能世界

站长声明

版权声明:本文内容由互联网用户自发贡献,本站不拥有所有权,不承担相关法律责任。如果发现本站有涉嫌抄袭的内容,欢迎发送邮件 举报,并提供相关证据,一经查实,本站将立刻删除涉嫌侵权内容。

标签:

相关文章

  • 「信迪诊断」完成近6亿元B轮融资

    「信迪诊断」完成近6亿元B轮融资

    「信迪诊断」宣布完成近6亿元B轮融资。 本轮融资由中信证券投资、中信医疗基金领投,盈科资本、厚信医疗投资、金浦国条、创瑞投资、仁普医疗基金、宏城投资、金雨茂物和南京创新投资、老股东田洋跟投外汇资金持续支撑。 耀明资本担任本次融资的独家保荐人。 先声诊断致力于为

    06-18

  • 为什么蘑菇街是除了淘宝、豆快之外第一个孵化过亿主播的平台?

    为什么蘑菇街是除了淘宝、豆快之外第一个孵化过亿主播的平台?

    作者 |倪叔双11已经落下帷幕,各平台都争先恐后地秀肌肉。 让倪叔印象深刻的是蘑菇街的直播记录:截至11月10日12点05分,蘑菇街一姐@小甜心_单场破亿,当日最终交易额为2.74亿元。 全网身价过亿的主播有很多,但过去大多集中在淘宝、快手、抖音。 流量不占优势的蘑菇街成为这

    06-18

  • 金鱼嘴机构日·新一代信息技术专场圆满落幕

    金鱼嘴机构日·新一代信息技术专场圆满落幕

    3月29日,由南京市建邺区人民政府指导,建邺高新区管委会、南京金鱼嘴基金区块发展中心、南京金鱼嘴主办由路演文化发展有限公司、清科创新中心、华商资本主办的金鱼嘴机构日华商资本新一代信息技术专场活动成功举办。 当前,世界正在进入以新一代信息产业为主导的新经济发展时

    06-17

  • 中国新冠疫苗启动临床试验;董明珠:格力二月没有收入;北京公交可刷银联卡 -雷锋晨报

    中国新冠疫苗启动临床试验;董明珠:格力二月没有收入;北京公交可刷银联卡 -雷锋晨报

    我国重组新冠疫苗获批启动临床试验。 近日,军事科学院军事医学科学院陈薇院士领导的科研团队研发的重组COVID-19疫苗已获批启动临床试验。 自1月26日抵达武汉以来,陈薇院士团队联合当地优势企业,在埃博拉疫苗研发成功经验的基础上,与时间赛跑,开展重组新冠病毒疫苗的药学

    06-17

  • AR公司亮亮视野获建银国际1亿元B+轮投资,兰驰、经纬持续跟投

    AR公司亮亮视野获建银国际1亿元B+轮投资,兰驰、经纬持续跟投

    据投资界6月5日消息,今日,AR商业化领军企业亮亮视野AR眼镜宣布完成1亿元B+轮融资。 此轮融资由建银国际领投,蓝驰创投和经纬创投跟投。 至此,亮亮视野成为国内首家完成B+轮融资的AR公司。   亮亮视野创始人及CEO吴斐表示,本轮融资后,亮亮视野将进一步强化在安防、工业

    06-17

  • 金富子宣布完成C1轮1亿元融资,春晓领投,红杉资本、京基联合创投

    金富子宣布完成C1轮1亿元融资,春晓领投,红杉资本、京基联合创投

    据投资界3月25日消息,继去年完成C轮数亿融资后,国内领先的互联网财富管理平台金富子中国,斧头近期再次宣布完成C1轮1亿元融资,由春晓资本领投,红杉资本、京基资本共同投资。 资金仍将主要用于继续扩大规模、提升财富管理服务质量。 始终走在金融科技前沿的金斧头连续两年

    06-18

  • 首尔半导体在美国提起16项LED专利侵权诉讼

    首尔半导体在美国提起16项LED专利侵权诉讼

    近日,首尔半导体宣布,已向美国德克萨斯州西区地方法院对全球零售商Ace Hardware提起LED专利侵权诉讼,指控其销售LED产品菲特电气生产的LED灯丝灯泡和其他LED产品。 尽管收到多份侵权通知,Ace Hardware 仍继续销售 Feit Electric 相关产品,因此首尔半导体认为此次侵权行为

    06-08

  • 山东工友即将赴德国上市,计划融资400万欧元

    山东工友即将赴德国上市,计划融资400万欧元

    山东工友集团股份有限公司(以下简称“山东工友”)在法兰克福证券交易所上市已进入倒计时。 该公司是第一家在德国上市的大陆公司。 得益于宽松的融资环境,越来越多的中国企业选择在欧洲上市。     春节前后上市    负责山东工友海外上市融资的陈经理表示:“山东工

    06-18

  • 香蕉游戏再获2亿元B轮融资,经纬创投与竞远资本联合领投

    香蕉游戏再获2亿元B轮融资,经纬创投与竞远资本联合领投

    NewSeed(ID:pelink)据9月29日消息,王思聪创办的电竞内容公司香蕉游戏近日宣布完成2亿元人民币融资B轮融资,由经纬创投和竞远 Investments联合领投。 据萌芽数据库显示,今年6月,香蕉游戏获得IDG资本、文子数字投资基金投资的1.5亿元A轮融资。 Banana Games属于Banana Pr

    06-17

  • 241家企业中有1-4获得融资,年均增长缓慢,然而“国家队”和资本却对这个行业情有独钟

    241家企业中有1-4获得融资,年均增长缓慢,然而“国家队”和资本却对这个行业情有独钟

    当年,自从腾讯领投拿下互联网后,互联网三大巨头BAT相继步入“互联网+法律”领域打开了互联网法律服务创业的大门。 那一年,法律机构不断探索“互联网+法律”之路,希望找到一条正确的道路。   经过近两年的市场耕耘,2020年我们谈论“互联网+法律”不再茫然:有了充足的资

    06-18

  • 新密科技获过亿元A轮投资,由虎山资本、中芯聚源

    新密科技获过亿元A轮投资,由虎山资本、中芯聚源

    投资界领投(ID:pedaily)据12月1日消息,国内领先的半导体全氟密封产品制造商新密科技宣布,完成超亿元A轮融资。 本次投资由虎山资本、中芯聚源领投,青大海峡跟投,老股东中南创投追加投资。 据悉,新密科技是一家专注于高端密封材料及产品解决方案的高新技术企业。 集研发

    06-18

  • 毅镤科技完成Pre-A轮融资,戈壁创投独家投资

    毅镤科技完成Pre-A轮融资,戈壁创投独家投资

    投资界(ID:pedaily)据9月5日消息,上海毅镤新能源科技有限公司(以下简称“毅镤科技”) )宣布完成数千万元Pre-A轮融资,本轮融资由戈壁创投独家投资。 普亭科技CEO罗坚表示,本轮募集资金将用于继续加大研发投入、完善和优化制氢控制系统等业务方面。 毅镤科技成立于今年

    06-17