首页 > 科技未来 > 内容

运行神经网络的图像传感器!在纳秒内实现图像分类或将推进边缘计算

发布于:2024-06-18 编辑:匿名 来源:网络

利用人工神经网络在纳秒内完成图像分类已成为现实。

近日,奥地利维也纳技术大学光子学研究所卢卡斯·门内尔、博士等人研制的超高速机器视觉设备——自带神经网络的图像传感器,将图像处理速度提高了数百倍数千次。

当地时间3月4日,上述团队在《自然》杂志(Nature)上发表题为《Ultrafast machine Vision with 2D Material Neural Network Image Sensors》的研究论文。

雷锋网了解到,该团队设计的视觉设备像大脑一样处理信息,可以在40纳秒内区分两个不同的图像。

人工神经网络视觉能够同时获取和分析图像,是人类认识世界最重要的方式。

运行神经网络的图像传感器!在纳秒内实现图像分类或将推进边缘计算

受此启发的“机器视觉”近年来方兴未艾。

所谓机器视觉,就是用机器代替人眼进行测量和判断。

但机器视觉不仅仅是人眼的简单延伸。

它还利用人脑的一部分从图像中提取、处理和理解信息,以进行实际测量和控制。

就机器视觉技术本身而言,其主要过程是——摄像头逐行扫描像素,然后将视频帧转换成数字信号,然后传输到计算机进行分析。

然而,问题在于,由于大量数据在传感器和处理单元之间移动,信息通常无法快速处理和生成。

这就是机器视觉经常面临的延迟。

考虑到上述因素,研究团队在图像传感器中引入了人工神经网络(ANN),可以同时获取和分析图像。

说到人工神经网络,它实际上是由大量相互连接的节点(也称为神经元)组成的计算模型。

其中,神经元作为核心接收和处理数据,在图像识别、智能机器人、自动控制、预测估计等领域发挥着重要作用。

具体来说,人工神经网络可以通过迭代调整神经元之间的连接或“突触”强度并观察当前的行为模式是否能更好地解决问题,来发现哪些模式最适合计算解决方案。

然后,人工神经网络将这些模式设置为默认值,模仿人脑的学习过程。

事实上,当天《自然》杂志的新闻与观点栏目还发表了香港理工大学的博士 Yang Chai题为《机器视觉的传感器内计算》的评论文章。

杨柴·博士在他的文章中通过下图清晰地展示了两种视觉处理方式的区别:传统及其视觉处理过程(下图a部分):传感器采集信号并通过模拟到- 数字转换器(ADC)。

)将模拟信号转换为数字信号,放大后输入到外部人工神经网络中,然后通过参数调整来训练神经网络。

神经网络的输入层接收编码简单物理元素(点、线)的信号,然后将这些信号优化为中间特征(简单形状),最后在输出层形成图像(3D形状); Lukas Mennel 团队的图像传感器处理流程(下图 b 部分):芯片上互连的传感器(图中的方块)收集信号并用作人工神经网络来识别简单特征,从而减少传感器和外部电路之间的冗余数据移动。

发光二极管组成的神经网络回到研究成果本身,上述传感器本质上是一个光电二极管神经网络,即9个像素的方形阵列,每个像素有3个二极管。

此外,其感光材料为二维半导体二硒化钨(WSe2),具有调节对光响应的能力。

同时,二极管的灵敏度相当于神经网络中的权重,其权重直接集成在图像传感器上。

具体工作流程如下:当图像投影到芯片上时,会产生、组合并读取各种二极管电流。

该阵列提供模拟计算——每个光电二极管产生与入射光强度成比例的输出电流,并且根据基尔霍夫定律(电路中电流流动的基本规则)将所得电流沿行或列求和。

然后阵列开始训练。

据悉,阵列产生的电流与预测电流之间的差值(雷锋网注:对于给定的任务,如果阵列正确响应图像,就会产生所谓的预测电流)分析并用于调整下一个训练周期的突触权重。

两种神经拟态函数此外,研究团队还演示了两种基于不同神经网络算法的神经拟态函数。

一是“分类”。

3×3的像素阵列可以将图像分类为三个字母n、v、z。

经过训练的图像传感器可以根据“测量相应电路的电流是否为0”的标准来识别纳秒级的字母(下图d)。

据悉,如果按比例增加阵列尺寸,还可以识别更复杂的图像。

二是“自动编码”。

即使存在信号噪声,通过学习图像的关键特征,神经网络也可以生成处理图像的简化表示。

不过,雷锋网也了解到,该系统存在诸多局限性,例如:在昏暗环境下难以成像;其设计要求电压高,功耗大;需要大面积生产加工半导体,难度较大;最大处理3×3图像。

不过,论文作者之一卢卡斯·门内尔·博士表示:我们的图像传感器工作时不消耗任何功率,检测到的光子本身就可以用作电流功率。

传统的机器视觉技术通常能够每秒处理 10,000 帧,一些更快的系统可以每秒处理 10,000 帧,但我们的系统可以每秒处理 10,000 帧。

可以看出,尽管新技术的实施存在或多或少的限制,但这套系统在能耗和速度方面确实具有不错的表现。

杨柴博士也在文章中肯定了这项技术:这项技术不限于视觉系统,它可以用于听觉、触觉或嗅觉感知。

此类智能系统的发展,以及5G高速无线网络的到来,将使未来实时(低延迟)边缘计算成为可能。

运行神经网络的图像传感器!在纳秒内实现图像分类或将推进边缘计算

站长声明

版权声明:本文内容由互联网用户自发贡献,本站不拥有所有权,不承担相关法律责任。如果发现本站有涉嫌抄袭的内容,欢迎发送邮件 举报,并提供相关证据,一经查实,本站将立刻删除涉嫌侵权内容。

标签:

相关文章

  • 东车日报|凯迪拉克首款电动车可预订-Rivian市值超越大众成全球第三-特斯拉加州致命车祸调查取消

    东车日报|凯迪拉克首款电动车可预订-Rivian市值超越大众成全球第三-特斯拉加州致命车祸调查取消

    介绍凯迪拉克首款电动车LYRIQ可预订预购 蔚来 ET7 将标配特殊功能 杜比 Atmos 保时捷推出 Taycan GTS 保时捷 Cayman GT4 RS 洛杉矶车展首次亮相 全新马自达 CX-50 发布,外观略显狂野 高通为汽车芯片代工调查取消宝马法拉第未来推迟发布三季报,预定亏损2.8亿美元苹果自动驾驶

    06-21

  • 版权之争、小崔的“学坏”、思聪的猛烈批评……明星创业胜算有多大?

    版权之争、小崔的“学坏”、思聪的猛烈批评……明星创业胜算有多大?

    日前,一位知名投资人在朋友圈感叹,“投资人太多了,创业者还不够”。 虽有嘲讽,却难掩一个不争的事实。 随着“全民创业”热潮逐渐降温,越来越多的人开始意识到,创业绝不是几张创始人、充满激情、一张PPT的事。 你可以赚很多钱。 在浩瀚的创业浪潮中,除了辞职高管职业经

    06-17

  • 原版太极越狱创始人又创业了,这次的目标是载人飞机

    原版太极越狱创始人又创业了,这次的目标是载人飞机

    图片来自电影《明日世界》 原版太极越狱创始人谢雷又创业了,这次的项目是一架有人驾驶飞机——事实上他已经做到了两年。 一年前的《我们为什么要越狱?——太极团队》视频中,谢雷当时的回答是:中国是全球越狱用户数量最多的国家,越狱比例也是全球最高的之一。 在太极拳出

    06-18

  • 河滨智能完成Pre-A轮融资,红杉中国种子基金

    河滨智能完成Pre-A轮融资,红杉中国种子基金

    投资圈(ID:pedaily)3月29日消息,合肥河滨智能机器人有限公司近日完成Pre-A轮融资,本轮融资由红杉中国种子基金领投,天使轮领投方线性资本持续加大支持。 本轮筹集的资金将主要用于产品认证、临床试验、医院合作以及机器人新产品的开发。 合肥合宾智能机器人有限公司成立

    06-18

  • 石头扫地机器人G10S Pro体验,从生活中做减法

    石头扫地机器人G10S Pro体验,从生活中做减法

    从生活中做减法,相信很多人都会想到“甩掉”,扔掉家里不必要的物品或者不经常使用的物品,从而减轻生活负担。 负担。 简单地放弃对物品的执着就能减轻生活的负担吗?我不这么认为。 我们的生活主要由工作、娱乐、饮食和休息组成。 每个部分空间和时间消耗的增加是以牺牲其他

    06-21

  • 阿里巴巴Q4财报:淘田GMV两位数增长、阿里云AI营收三位数增长、海外电商强劲增长45%

    阿里巴巴Q4财报:淘田GMV两位数增长、阿里云AI营收三位数增长、海外电商强劲增长45%

    5月14日,阿里巴巴集团发布财年Q4及全年业绩。 经过一年的主动变革,阿里巴巴已回归健康增长轨道:本季度淘宝、天猫GMV均实现两位数增长,阿里云核心公有云产品收入实现两位数增长,AI相关收入实现三位数增长,海外电商同比增长45%。 这证明“用户至上、人工智能驱动”的战略

    06-17

  • 史上最烂AI诞生!他用一亿多条臭帖子,训练了一个吐出甜言蜜语的聊天机器人

    史上最烂AI诞生!他用一亿多条臭帖子,训练了一个吐出甜言蜜语的聊天机器人

    “来聊一会儿吧。 ” “你这个大萨比~”调皮的语气掩盖不了诅咒的本质。 这只是微软小冰微博“大萨比~”“杀光所有人”的一幕。 近日,又一位自称“史上最糟糕的AI”的“小冰”出现了。 它的名字叫GPT-4chan,由YouTubers、AI研究员、Yannic和Kilcher创建,24小时内留下了0个

    06-21

  • 35%?不用担心!国务院决定完善政策确保创投基金整体税负不增加

    35%?不用担心!国务院决定完善政策确保创投基金整体税负不增加

    据投资界9月6日消息,国务院总理李克强主持召开国务院常务会议今天确定实施新修订个人所得税法的配套措施,让广大群众受益。 减轻负担;决定完善政策,确保创业投资基金整体税负不增加;部署打造“大众创业、万众创新”升级版,增强就业能力、科技创新和产业发展活力;通过了

    06-17

  • 2024年全球药王,被司美格鲁肽提前预定

    2024年全球药王,被司美格鲁肽提前预定

    2024年的全球药王被索马鲁肽提前预定。 2024年全球药王将被索马鲁肽提前预定,中国最具创新力的药王也将在减肥药中诞生。 减肥药仍然是全年最热门的话题。 在国产长效GLP-1药物上市之前,整体市场还没有达到透支的程度。 信达生物的GLP-1R/GCGR双靶点药物Masdutide预计将以H1

    06-18

  • 逻辑变了,下一个商业拐点在哪?

    逻辑变了,下一个商业拐点在哪?

    逻辑已经改变了。 下一个商业拐点在哪里? 2020年底,我国已走出疫情泥潭,企业普遍进入休养复苏阶段。 今年年初,ChatGPT引发的人工智能浪潮出人意料地从西方传来。 人工智能赋予了更多创造的可能性,打破了更多的不可能,也让不确定的世界变得更加危险……不可否认,2020年

    06-17

  • 10亿,阳光电源等出资设立碳中和基金

    10亿,阳光电源等出资设立碳中和基金

    投资圈-解码LP消息,9月14日,阳光电源发布公告称,公司作为有限公司将与公司控股股东曹仁贤姚合作明和合肥仁发新能源投资基金管理有限公司、安徽铁路发展基金有限公司、合肥高质量发展引导基金有限公司、龙港浙江科技创业投资合伙企业、上海颐和汉阳新材料有限公司与安徽省企

    06-17

  • 【创业24小时】2022年5月13日

    【创业24小时】2022年5月13日

    投融资昨天,国内市场共发生19起投资披露事件,其中先进制造5起(禾芯科技、诺菲纳米科技、智绘微科技、超视科技、哈尔滨工业石墨科技)、企业服务5个(派通科技、飞诺门阵、友源集团、象数科技、云宝智能)、传统制造案例2个(博汇特、江苏华辰)、医疗健康2个案例(格瑞特森

    06-18