首页 > 科技未来 > 内容

运行神经网络的图像传感器!在纳秒内实现图像分类或将推进边缘计算

发布于:2024-06-18 编辑:匿名 来源:网络

利用人工神经网络在纳秒内完成图像分类已成为现实。

近日,奥地利维也纳技术大学光子学研究所卢卡斯·门内尔、博士等人研制的超高速机器视觉设备——自带神经网络的图像传感器,将图像处理速度提高了数百倍数千次。

当地时间3月4日,上述团队在《自然》杂志(Nature)上发表题为《Ultrafast machine Vision with 2D Material Neural Network Image Sensors》的研究论文。

雷锋网了解到,该团队设计的视觉设备像大脑一样处理信息,可以在40纳秒内区分两个不同的图像。

人工神经网络视觉能够同时获取和分析图像,是人类认识世界最重要的方式。

运行神经网络的图像传感器!在纳秒内实现图像分类或将推进边缘计算

受此启发的“机器视觉”近年来方兴未艾。

所谓机器视觉,就是用机器代替人眼进行测量和判断。

但机器视觉不仅仅是人眼的简单延伸。

它还利用人脑的一部分从图像中提取、处理和理解信息,以进行实际测量和控制。

就机器视觉技术本身而言,其主要过程是——摄像头逐行扫描像素,然后将视频帧转换成数字信号,然后传输到计算机进行分析。

然而,问题在于,由于大量数据在传感器和处理单元之间移动,信息通常无法快速处理和生成。

这就是机器视觉经常面临的延迟。

考虑到上述因素,研究团队在图像传感器中引入了人工神经网络(ANN),可以同时获取和分析图像。

说到人工神经网络,它实际上是由大量相互连接的节点(也称为神经元)组成的计算模型。

其中,神经元作为核心接收和处理数据,在图像识别、智能机器人、自动控制、预测估计等领域发挥着重要作用。

具体来说,人工神经网络可以通过迭代调整神经元之间的连接或“突触”强度并观察当前的行为模式是否能更好地解决问题,来发现哪些模式最适合计算解决方案。

然后,人工神经网络将这些模式设置为默认值,模仿人脑的学习过程。

事实上,当天《自然》杂志的新闻与观点栏目还发表了香港理工大学的博士 Yang Chai题为《机器视觉的传感器内计算》的评论文章。

杨柴·博士在他的文章中通过下图清晰地展示了两种视觉处理方式的区别:传统及其视觉处理过程(下图a部分):传感器采集信号并通过模拟到- 数字转换器(ADC)。

)将模拟信号转换为数字信号,放大后输入到外部人工神经网络中,然后通过参数调整来训练神经网络。

神经网络的输入层接收编码简单物理元素(点、线)的信号,然后将这些信号优化为中间特征(简单形状),最后在输出层形成图像(3D形状); Lukas Mennel 团队的图像传感器处理流程(下图 b 部分):芯片上互连的传感器(图中的方块)收集信号并用作人工神经网络来识别简单特征,从而减少传感器和外部电路之间的冗余数据移动。

发光二极管组成的神经网络回到研究成果本身,上述传感器本质上是一个光电二极管神经网络,即9个像素的方形阵列,每个像素有3个二极管。

此外,其感光材料为二维半导体二硒化钨(WSe2),具有调节对光响应的能力。

同时,二极管的灵敏度相当于神经网络中的权重,其权重直接集成在图像传感器上。

具体工作流程如下:当图像投影到芯片上时,会产生、组合并读取各种二极管电流。

该阵列提供模拟计算——每个光电二极管产生与入射光强度成比例的输出电流,并且根据基尔霍夫定律(电路中电流流动的基本规则)将所得电流沿行或列求和。

然后阵列开始训练。

据悉,阵列产生的电流与预测电流之间的差值(雷锋网注:对于给定的任务,如果阵列正确响应图像,就会产生所谓的预测电流)分析并用于调整下一个训练周期的突触权重。

两种神经拟态函数此外,研究团队还演示了两种基于不同神经网络算法的神经拟态函数。

一是“分类”。

3×3的像素阵列可以将图像分类为三个字母n、v、z。

经过训练的图像传感器可以根据“测量相应电路的电流是否为0”的标准来识别纳秒级的字母(下图d)。

据悉,如果按比例增加阵列尺寸,还可以识别更复杂的图像。

二是“自动编码”。

即使存在信号噪声,通过学习图像的关键特征,神经网络也可以生成处理图像的简化表示。

不过,雷锋网也了解到,该系统存在诸多局限性,例如:在昏暗环境下难以成像;其设计要求电压高,功耗大;需要大面积生产加工半导体,难度较大;最大处理3×3图像。

不过,论文作者之一卢卡斯·门内尔·博士表示:我们的图像传感器工作时不消耗任何功率,检测到的光子本身就可以用作电流功率。

传统的机器视觉技术通常能够每秒处理 10,000 帧,一些更快的系统可以每秒处理 10,000 帧,但我们的系统可以每秒处理 10,000 帧。

可以看出,尽管新技术的实施存在或多或少的限制,但这套系统在能耗和速度方面确实具有不错的表现。

杨柴博士也在文章中肯定了这项技术:这项技术不限于视觉系统,它可以用于听觉、触觉或嗅觉感知。

此类智能系统的发展,以及5G高速无线网络的到来,将使未来实时(低延迟)边缘计算成为可能。

运行神经网络的图像传感器!在纳秒内实现图像分类或将推进边缘计算

站长声明

版权声明:本文内容由互联网用户自发贡献,本站不拥有所有权,不承担相关法律责任。如果发现本站有涉嫌抄袭的内容,欢迎发送邮件 举报,并提供相关证据,一经查实,本站将立刻删除涉嫌侵权内容。

标签:

相关文章

  • 线性资本成功募集5亿美元,王淮写下深情信

    线性资本成功募集5亿美元,王淮写下深情信

    投资社区(ID:pedaily)12月15日消息,线性资本今日宣布募集线性第5期美元基金及配套第2期基金,关注总数追加投资资金约5亿美元。 本次募资完成后,目前线性投资管理规模约为20亿美元。 据了解,本轮融资于10月8日正式启动,11月15日获得超额完成目标%的高质量承诺,仅一次交

    06-17

  • 人民币占全球外汇储备比重持续创新高,美元储备比重连续三个季度下降

    人民币占全球外汇储备比重持续创新高,美元储备比重连续三个季度下降

    国际货币基金组织(IMF)31日发布《官方外汇储备货币构成》数据当地时间显示,今年四季度,人民币外汇储备总额从去年三季度的5000万美元上升至2亿美元,实现连续八个季度增长。 人民币在全球外汇储备中的占比也升至2.25%,创国际货币基金组织今年四季度公布这一数据以来的新高

    06-18

  • 最年轻的985,IPO正在批量诞生

    最年轻的985,IPO正在批量诞生

    先从最新的IPO开始吧。 昨天(5月12日),首只锂电池涂层模具股曼恩斯特正式登陆深交所创业板,收盘市值超亿元。 鲜为人知的是,这家公司掌门人彭建林毕业于有中国锂电池行业“黄埔军校”之称的中南大学。 中南大学位于湖南长沙岳麓山脚下,面临着咆哮的湘江,在全国范围内知

    06-18

  • “过时”的骰子游戏还能做什么?

    “过时”的骰子游戏还能做什么?

    有这样一款手机,一手创造了破解核桃的“神话”,创造了史上最畅销手机的传奇。 也见证了一个品牌的巅峰。 这款手机就是大名鼎鼎的诺基亚。 这款手机内置了一款名为 Yahtzee 的骰子游戏。 在功能手机移动娱乐还不发达的时代,Yahtzee等小游戏为人们在小点阵屏幕上的路上提供了

    06-21

  • 缔孚森获头豆石岛天使轮融资,真人娱乐火爆

    缔孚森获头豆石岛天使轮融资,真人娱乐火爆

    据投资界12月18日消息,缔孚森今日正式宣布完成投资人头豆石岛天使轮融资。    据悉,本轮融资资金将主要用于内容开发以及新开综合性现场娱乐线下店。   缔孚森成立于2001年,主要制作现场娱乐内容。 旗下拥有TFS、米团畅游密室圈等超级密室品牌。   创始人满毅认为:

    06-17

  • 林氏集团推出全球首个晶圆边缘沉积解决方案,提高芯片良率

    林氏集团推出全球首个晶圆边缘沉积解决方案,提高芯片良率

    林氏集团 Coronus?DX 建立在林氏集团 15 年晶圆边缘解决方案创新基础上 近日,林氏集团(纳斯达克股票代码:LRCX)推出了 CoronusDX,业界首款晶圆边缘沉积解决方案,旨在更好地解决下一代逻辑、3D NAND 和先进封装应用中的关键制造挑战。 随着半导体芯片的关键尺寸不断缩小

    06-06

  • 首次发布 -优也科技完成近亿元战略融资,腾讯产业生态投资与小喵朗成联合领投

    首次发布 -优也科技完成近亿元战略融资,腾讯产业生态投资与小喵朗成联合领投

    投资界(ID:pedaily)2月26日消息,今日,工业数据操作系统及工业数字智能优也科技,一家全球化转型的全栈产品技术服务商宣布完成近亿元战略融资。 本轮融资由腾讯产业生态投资、小喵朗城联合领投,常熟东南产业基金跟投,云秀资本担任独家投资方。 优也科技创始人、董事长傅

    06-17

  • 工业AI公司“中科地宏”获数千万美元融资

    工业AI公司“中科地宏”获数千万美元融资

    36氪获悉,工业AI公司“中科地宏”近日宣布完成新一轮数千万美元融资。 其中,A轮融资由涌铧投资领投,A+轮融资由上海南弘资本领投。 中科帝宏核心团队来自中国科学院和中国科学技术大学。 其完全自主研发的TimesAI深度学习开放平台应用于3C、新能源、半导体、组装、新家电等

    06-17

  • 全国孵化器协会发起减免入驻企业租金举措

    全国孵化器协会发起减免入驻企业租金举措

    继河南科技企业孵化器创新联盟1月30日首个倡议“入驻企业减免租金”后,孵化器协会和企业各地纷纷开始响应。 重庆市孵化器协会秘书长张静表示,1月31日协会倡议发出后,半天内就有8家孵化器率先响应并落实。 次日,重庆已对超过15家孵化载体推出实际减免措施,惠及企业家,“

    06-17

  • 微软对动视暴雪的收购即将结束

    微软对动视暴雪的收购即将结束

    微软对动视暴雪的收购是游戏史上最大的一笔收购。 这一历史性的收购不仅引起了世界各地玩家的关注,也引起了各国监管机构和竞争对手的关注。 的警惕性。 随着时间的推移和微软的努力,挡在微软面前的障碍越来越少。 就连收购的主要反对者CMA(竞争与市场管理局)也放松了态度

    06-21

  • AI落地创无界,2024数字云原力大会盛大启动

    AI落地创无界,2024数字云原力大会盛大启动

    5月9日,以“AI落地创无界”为主题,由中国控股、中国信息、和神州数码集团在Li大会上,我们落地了未来人工智能新地标——神州数码国际创新中心(IIC)。 数百位行业大咖、专家学者、AI先驱齐聚一堂,聚焦AI在各行业应用的“必答题”,踏上“细致”的探索之旅。 会上,神州数

    06-18

  • 清明假期银联网上交易额达9036亿元,同比增长3.6%

    清明假期银联网上交易额达9036亿元,同比增长3.6%

    今天,中国银联发布清明假期银联网上交易数据。 清明节三天假期成交金额1亿元,比去年同期增长3.6%。 。 银联数据显示,清明假期三天,餐饮业同比增长9.2%,酒店住宿同比增长7.5%,日用品行业同比增长7.3%同年。

    06-18