首页 > 科技未来 > 内容

打造极致性能的边缘AI计算基础解决方案,构建绿色安全的智能世界

发布于:2024-06-18 编辑:匿名 来源:网络

在近日举办的亚洲CES上,地平线联合创始人&副总裁黄畅博士受邀在CES上发表主题为《边缘 AI 计算发展趋势》的演讲主论坛.在长达一小时的演讲中,黄畅和博士从边缘计算驱动的行业变革、AI能效与企业责任、有效算力的定义、地平线的开放等角度,分享了他对人工智能时代边缘计算的思考。

赋能策略和开发者平台。

洞察趋势,深度解读地平线“AI在地平线,同行”战略。

黄畅表示,地平线愿意成为一家平台公司,愿意作为技术基础,支持客户,与客户一起前进,实现客户价值。

全球知名研究公司Gartner的技术成熟度曲线显示,人工智能惠及大众的时代已经开始,正在为各行业创造新的价值。

在这个过程中,我们会面临哪些挑战?随着人工智能的商业化,最重要的挑战是数据量的指数级增长,数据量呈现出两个关键特征:数据的实时性和安全性。

根据国际数据公司(IDC)白皮书《数据时代 》预测,2019年,超过25%的数据将成为实时数据,其中95%是由物联网终端产生的,且大部分无法实时传输。

直接创造价值,需要通过计算细化;全球总数据的20%将直接关系到人们的日常生活甚至生存安全。

在Gartner的技术成熟度曲线上,很多AI技术和应用都出现在这条曲线上。

Gartner还在报告中首次明确提出,AI民主化意味着普惠,这也预示着我们将面临更加严峻的挑战。

数据挑战。

这给数据计算带来了严峻的挑战。

如何高效地处理海量数据并挖掘其价值,在秒级甚至毫秒级处理实时数据,同时保护数据隐私?随着5G商用,终端接入网络容量大幅扩展,实时性要求进一步提高。

但由于骨干网扩容成本高、延迟大,在边缘侧形成数据堰塞湖,边缘计算势在必行。

英特尔曾表示:MEC(多接入边缘计算)不一定需要5G,但5G一定需要MEC。

在边缘计算的支持下,5G的商业价值才能真正实现。

针对当前物联网数据计算面临的问题,边缘计算具有五大优势: 1、可靠性高,离线也能正常运行; 2、安全合规,满足隐私要求; 3、降低数据传输和存储成本; 4、实时性高,减少响应延迟; 5、计算设备灵活部署,高效协作。

AI计算可分为云计算、边缘计算、端计算三个层次。

它们在AI算力、实时性能和计算通用性三个维度上各有所长:云计算面向的是最通用的计算。

在所有计算中,云计算的时空范围最大,且具有多样性。

最强,要求计算能力最高,但实时性较差,与场景关联性较弱;云还拥有最丰??富的数据类型,可以跨越多个维度,因此可以完成复杂的认知计算和模型训练。

端计算则是另一个极端,与场景的关联性最强,计算专用性非常强,追求极致的效率。

主要以推理为主。

位于中间的边缘计算是一个新物种。

它就像我们的脊柱,连接我们的大脑(云)和神经末梢(端)。

其计算能力远胜终端,对功耗的承受能力也远高于终端。

与云端相比,其实时性更好,并且可以根据具体场景进行优化。

5G技术的应用可以大幅提高边缘与端之间的数据带宽和传输时延,使其能够结合云与端的优势,改变现有的网络互联格局。

5G时代的物联网需要端边云协同,寻找更大规模的AI解决方案的最优方案。

5G时代的物联网模式也将随之改变,边缘计算成为数据过滤器和控制阀。

通过它的处理,只需将万分之一的有效数据上传到云端进行处理,大大减轻了骨干网的数据传输压力。

传统互联网时代,存在端云二元计算架构。

数据不断传输到云端并进行处理,终点只是流量入口。

然而边缘计算的加入却带来了新的变数。

它构建了端与云之间的结构。

它创造了新的可能性,它对数据的掌控将带来新的商业范式转变。

从技术角度来看,边缘计算具有改造传统互联网计算架构的潜力,将带来从软件到硬件的新架构变革。

人工智能的普及带来新价值的同时,也带来了新的能源危机。

如今,数据中心消耗的电力数量惊人。

据《中国数据中心能耗现状白皮书》统计,中国有40万个数据中心。

每个数据中心平均耗电量25万千瓦时,总计超过1亿千瓦时。

这相当于三峡水电站和葛洲坝水电站的年发电量。

和。

如果折算成碳排放量,约为1万吨,是目前中国民航年碳排放量的近三倍。

数据中心的平均能耗是大型商业办公楼的三倍以上。

服务器供电和冷却所需的能源占数据中心总运营成本的 40%,因此数据中心能源效率低下的问题不容忽视。

为了减少电力消耗,阿里巴巴的数据中心建在张北。

张北多风,年平均气温不足3摄氏度。

这就像一个自然散热场,从而降低了冷却系统的功耗。

预计仅数据中心的冷却能耗即可降低45%。

腾讯的数据中心建在贵州省贵安新区的两座山上,也是为了散热。

为了降低能耗,全球最大的数据中心将建在北极圈,总功率超兆瓦(来源:KOLOS官网)。

可以预见,未来我们需要的数据计算量将会以数量级快速增长。

,那么这样的能耗方式就很难维持。

因此,通过极致的人工智能能效提升来减少碳排放,成为人工智能企业新的社会责任,即充分利用有限的能源创造更大的价值。

在传统芯片行业,PPA(计算能力、功耗和面积)是最经典的性能衡量指标。

但在人工智能时代,我们需要新的范式来定义性能。

当前行业存在一个很大的误区,往往将峰值算力作为衡量AI芯片的主要指标。

但我们真正需要的是有效的计算能力及其输出的算法性能。

这需要从四个维度来衡量:每瓦峰值算力、每美元峰值算力(由芯片架构、前后端设计、芯片技术决定)、峰值算力的有效利用(由算法决定)和芯片架构)决定),以及有效算力与AI性能的比例(主要是速度和准确度,由算法决定)。

过去业界普遍使用Resnet等模型,但今天我们使用像MobileNet这样设计更精致的小模型,可以用1/10的算力达到同样的精度和速度。

然而,这些精心设计的算法给计算架构带来了巨大的挑战,往往导致传统设计的计算架构的有效利用率大幅下降。

从最终的AI表现来看,是得不偿失。

Horizo??n最大的特点是预测重要应用场景中关键算法的发展趋势,并主动将其计算特性融入到计算架构的设计中,这样经过一两年的研发,AI处理器就可以上线时,依然能够很好的适应最新的主流算法。

因此,与其他典型的AI处理器相比,地平线的AI处理器能够随着算法的演进始终保持非常高的有效利用率,从而真正受益于算法创新带来的优势。

地平线AI芯片核心能力:算法+芯片联合优化和灵活性,高效架构服务经典和未来算法设计。

掌握了算法和计算架构,我们才有巨大的潜力。

编译器可以将两者结合起来进行极致优化,释放所有潜力。

举个实际例子,在不进行优化的情况下,峰值算力有效利用率为34%;但编译器优化指令序列后,该值增加到85%。

这使得芯片的处理速度提高了2.5倍,也就是说,处理相同数量的任务时,功耗降低了40%。

利用未来重要应用场景中的关键算法发展趋势来指导地平线AI芯片的架构设计。

效率第一,兼顾灵活性。

这是地平线一直以来的设计理念——极致的AI能效是地平线在产品中始终做到的。

理想和追求。

打造极致性能的边缘AI计算基础解决方案,构建绿色安全的智能世界

我们创业这几年,深切感受到人工智能从技术论证到商业落地的路很长。

对于大多数公司来说,将人工智能解决方案集成到客户的产品中以赋能并取得成功并不是一个低优先级的事情。

临界点。

所以我们每天都在努力研究如何降低集成我们解决方案的难度。

为此,地平线设计了包括数据、训练、部署在内的完整算法开发流程,并开发了全栈AI平台工具来高效支撑这一开发流程。

我们甚至提供了大量优秀的算法模型和原型系统作为客户的参考示例。

通过这些工具和例子,客户可以模仿猫快速开发出自己产品所需的算法,不断迭代,由浅入深进行全方位优化,挖掘自己在数据和算法上的独特价值。

支持多种开源框架的 Horizo??n 开发工具 Horizo??n 的全栈 AI 平台工具链包括数据、培训和设备部署工具。

它们形成闭环并高效运行。

数据生成模型,可以部署到设备上运行。

在操作过程中,他们可以指导模型调整,甚至收集新数据。

这样的开发模式可以提高开发速度、降低开发门槛、保证开发质量。

我们目前的评估结果是现实的。

可减少开发人力约30%,节省开发时间50%。

更重要的是,由于开发门槛降低,开发者规模甚至可以扩大一个数量级。

地平线AI开发平台:加速Software2.0全流程研发地平线将持续升级开发工具,为客户提供半自动化的处理流程,包括:数据工具和模型、模型与终端设备之间的闭环迭代;丰富的模型/系统参考原型,简单易用、直观便捷的交互手段;标准化的开发流程,加上持续的测试、集成和部署机制。

基于开放、赋能客户,快速满足不同客户需求,是地平线AI平台服务客户的宗旨。

我们需要节省更多的开发时间,节省更多的开发人员,让越来越多的企业参与人工智能。

在发展环境上,打造良好的生态基础平台。

在当前能源消耗巨大的AI时代,地平线利用自身独特的优势和服务理念,为客户提供高性价比且易继承的产品、友好的开发工具和参考样本、先进的计算架构、前沿的算法支持和优质的服务。

我们帮助合作伙伴开发了许多成功的产品,例如工地头盔检测、小爱音箱、理想一多音区语音交互解决方案、众包高精度语义图产品等。

我们还加入了96Boards开源社区拥抱更广阔的发展生态系统。

我们愿意做一个平台公司,一个技术基地,用地平线的AI赋能客户。

我们从来不认为创业是一场聚会,而是与客户一起的旅程。

我们将继续与客户一起,实现客户价值,履行使命,赋能万物,让每个人的生活更安全、更美好。

谢谢你们! 雷锋网版权文章未经授权禁止转载。

详情请参阅转载说明。

打造极致性能的边缘AI计算基础解决方案,构建绿色安全的智能世界

站长声明

版权声明:本文内容由互联网用户自发贡献,本站不拥有所有权,不承担相关法律责任。如果发现本站有涉嫌抄袭的内容,欢迎发送邮件 举报,并提供相关证据,一经查实,本站将立刻删除涉嫌侵权内容。

标签:

相关文章

  • 以色列团队推出世界上最大的实验室培育牛排,由真正的牛细胞 3D 打印而成

    以色列团队推出世界上最大的实验室培育牛排,由真正的牛细胞 3D 打印而成

    12 月 7 日,以色列公司 MeaTech 3D 开发出迄今为止最大的实验室培育牛排,重近一克。 牛排由取自活牛组织样本的真正脂肪和肌肉细胞制成,不使用任何大豆或豌豆蛋白,并经过烹饪以形成令人愉悦的烧烤痕迹。 ▲ 成品。 图片来自:MeaTech 3D生产过程结合了细胞生物学、组织工程

    06-21

  • 连TA都不知道,更何况露营

    连TA都不知道,更何况露营

    露营有多受欢迎?每逢长周末假期,打开朋友圈,总会看到几个朋友,带上折叠椅或餐垫,搭起帐篷或大帐篷,在草坪、沙滩甚至山顶,打造一个城市人的游戏屋。 一座山的。 。 随着生活节奏的加快、远行的不确定性增加,人们“逃离城市”的愿望越来越强烈。 此外,还增加了“月亮椅

    06-21

  • 字节跳动再次布局游戏行业,全资收购深机智能,

    字节跳动再次布局游戏行业,全资收购深机智能,

    据投资界消息,据企查查获悉,字节跳动近期完成了对北京深机智能科技有限公司(以下简称“深机智能”)的全资收购。 公开资料显示,深机智能由前青果智能副总裁郭祥昊于2008年创立,他是北京邮电大学博士自然语言处理(NLP)方向。 他学习了钟义信教授的信息论和神经网络,并

    06-18

  • “家家泉”完成近亿元B轮融资,沣途资本领投

    “家家泉”完成近亿元B轮融资,沣途资本领投

    投资界(ID:pedaily)9月5日消息,水家电品牌“家家泉”(原“熊小夕”)已获完成近亿元人民币B轮融资,本轮融资由沣途资本领投,老股东纪源资本、天图资本跟投,木棉资本独家投资。 这是嘉泉成立两年来完成的第四轮融资。 据悉,本轮募集资金将主要用于嘉泉品牌建设以及新品

    06-17

  • 首次发布 -该核心技术获Pre-A轮融资,蔚来资本、启明创投联合领投

    首次发布 -该核心技术获Pre-A轮融资,蔚来资本、启明创投联合领投

    投资界(ID:pedaily)7月19日消息,通用智能芯片公司该核心技术宣布完成Pre-A轮融资轮融资。 本轮融资由蔚来资本、启明创投联合领投,BAI资本、基石资本、中科之星、嘉实投资、元禾璞华、云九资本跟投。 本轮融资将主要用于扩大研发团队、加快市场布局和生态建设。 据悉,这

    06-17

  • 植物肉品牌“植物教授”获5000万元A轮融资,经纬中国独家投资

    植物肉品牌“植物教授”获5000万元A轮融资,经纬中国独家投资

    投资界(ID:pedaily)8月31日消息,据36氪报道,近日,植物肉品牌“植物教授”完成1万元A轮融资,由经纬中国独家投资,回声资本独家投资。 据悉,本轮融资将用于消费者渗透、产品研发、供应链优化和团队扩张。 此前,年初,植教授获得数千万元天使轮融资,投资方为宝洁校友会

    06-18

  • 中航顾问宁振波:智能制造的基础是数字化,机器换人还只是自动化的老路

    中航顾问宁振波:智能制造的基础是数字化,机器换人还只是自动化的老路

    雷锋网记者:近日,中国信息产业商会主办的第九届航天信息化建设合作峰会召开在北京。 本次峰会以“推动军民深度融合,赋能数字化转型”为主题。 航天科工、航天科技、中国商飞、中航发展等单位信息负责人、行业专家及企业代表参加会议。 会上,中国航空工业信息技术中心顾问

    06-18

  • 全球直播购物平台ShopShops完成1500万美元B轮融资

    全球直播购物平台ShopShops完成1500万美元B轮融资

    投资界(ID:pedaily)6月15日报道,北美精品买手店与设计师品牌集合直购平台SHOPSHOPSWheretoShop完成1万美元B轮融资本轮融资,投资方包括Union Square Ventures、Forerunner Ventures、LightShed Ventures(领投)、Acrew Capital(领投)、Gaingels、Dave Lu、TCG Capital

    06-18

  • 海关总署:前两个月,综合保税区实现进出口总值7649.6亿元,同比增长46.9%

    海关总署:前两个月,综合保税区实现进出口总值7649.6亿元,同比增长46.9%

    据海关总署网站显示,今年前两个月,全国综合保税区发展迅速,实现进出口总值6亿元。 人民币同比增长46.9%,高出进出口总体增速14.7个百分点。 其中,出口1亿元,同比增长71.1%,进口5000万元,同比增长25.1%,成为稳外贸稳外资的重要力量。 听,中小企业反馈平台。 倾听用户

    06-17

  • 广州雷德倍尔完成金阖资本超5000万元B轮战略投资

    广州雷德倍尔完成金阖资本超5000万元B轮战略投资

    据投资界9月7日消息,据Arterial.com报道,广州耀明生物科技(简称雷德倍尔)完成B轮战略投资投资1万多元。 金阖资本(黄金)(领域医疗相关基金)投资。 本次战略融资将推动雷德倍尔两大诊断产品的研发和营销,满足两大疾病领域的临床诊断需求。 同年11月成立,是一家专注于

    06-17

  • 奥普玛生物获近亿元战略投资,华兴医疗产业基金领投

    奥普玛生物获近亿元战略投资,华兴医疗产业基金领投

    据投资界4月18日消息,上海奥普玛生物科技有限公司(以下简称“奥普玛生物”) 》)完成战略投资近亿元。 投资方为华兴医疗产业基金和达辰创投。 值得注意的是,本轮交易是迄今为止中国细胞培养领域最大的单笔融资。   博士。 远普生物创始人、董事长兼总经理肖志华表示,

    06-18

  • 100亿,湖北省设立科技天使基金

    100亿,湖北省设立科技天使基金

    投资界-解码LP消息,4月17日,省科技厅发布《湖北省科创企业全生命周期培育计划(-年)》(以下简称《计划》),瞄准针对科技企业不同生命周期,为科技创新企业提供阶段性培育体系,提供项目、人才、平台、资金等创新支持。 其中,为引导社会资本投资早期、小型、“硬科技”

    06-18