首页 > 科技未来 > 内容

Google 是如何在 Pixel 5 上打造人像光效的?

发布于:2024-06-21 编辑:匿名 来源:网络

这两年,我们听过计算摄影这个词太多次了。

说到计算摄影,人们自然会想到谷歌的Pxiel系列手机。

这个系列可以说开创了计算摄影的先河。

它向我们揭示了计算摄影的力量和魅力。

正是因为计算摄影的力量如此惊人,这两年逐渐回归的手机厂商终于也投入其中。

而谷歌此时已经在做更多的花样了。

“人像光效”最初是在谷歌今年 10 月发布 Pixel 4a 和 Pixel 5 时作为这一代 Pixel 独有的功能推出的。

但日前,谷歌对相机和相册应用进行了更新,在 Pixel 2 之后将这一功能委托给用户。

受到人像摄影师使用的摄影灯的启发,Portrait Lighting 重新定位和建模光源,然后添加新光源到照片的场景。

它还可以识别初始照明的方向和强度,然后自动补充照明情况。

如此强大的计算摄影功能自然离不开神经网络的机器学习能力。

以手机人像光照模式下拍摄的照片作为数据库进行训练后,“人像光照”的后期制作能力启用了两种新算法: 自动添加合成光源:对于给定的人像照片,算法合成并添加外部光源与现实生活中摄影师的照明一致的光源。

合成后重新照明:以最自然的方式为给定的照明方向和肖像照片添加合成光。

先说第一个问题,就是光源的位置和添加的确定。

现实中,摄影师通常用经验和感性的方法,通过观察光线落在拍摄对象脸上的强度和位置来确定如何用光。

但对于AI来说,确定现有光源的方向和位置并不容易。

为此,谷歌采用了一种新的机器训练模型——全向照明轮廓。

这种新的照明计算模型将面部视为光探测器,从所有照明中推断光源的方向、相对强度和颜色,并使用另一种面部算法来估计照片中头部的姿势。

虽然听起来很高端,但实际训练模型的渲染效果还是相当可爱的。

它将把人的头部视为三个圆形的银色球形物体。

顶球的“纹理”最粗糙,用于模拟光的漫反射。

中间的球体也是磨砂的,用来模拟更集中的光源。

底部的球是镜面“材质”,用于模拟更平滑的镜面反射。

此外,每个球体都可以根据自身的特点反映环境照明的颜色、强度和方向性。

这样Google就可以在后期得到合成光源的方向。

例如,经典的人像光源位于视线上方 30°,与相机轴成 30° 到 60° 之间。

谷歌也遵循这一经典规则。

学会了给人像添加光源的方向之后,接下来要做的就是如何让添加的光源更加自然。

上一个问题有点像《独孤九剑》的剑谱。

一旦你学会了,你就能够做一些固定的问题。

解决后一个问题,需要在尽可能多的实战中修炼《独孤九剑》,融合不同的实际情况,进而学习破译世间各种武功。

为了解决这个问题,谷歌开发了另一种新的训练模型来确定添加到原始照片中的自定向光源。

Google 是如何在 Pixel 5 上打造人像光效的?

一般情况下,不可能用现有的数据来训练这个模型,因为它无法面对近乎无限的光照,而且必须完美匹配人脸。

为此,谷歌创造了一种非常特殊的机器学习训练设备——球形“笼子”。

该装置设有 64 个具有不同视角的摄像头和可单独编程的 LED 光源。

如果你去过杜比影院,杜比影院预演中有一个环节,声音在半球形穹顶中移动,模拟现实中近乎无限的方向。

谷歌的设备实际上也遵循类似的原理。

通过不断改变光照的方向和强度,模拟复杂的光源,我们就可以获得人类头发、皮肤、衣服反射光的数据,从而得到复杂光源下光照应该是什么样子。

谷歌一共邀请了70名不同的人来训练这个模型,他们具有不同的脸型、发型、肤色、衣服、配饰等特征。

这确保了合成光源尽可能接近现实。

另外,谷歌并没有直接通过神经网络模型输出最终图像,而是让神经网络模型输出分辨率较低的商图像。

这是对商图像是什么的解释。

我们可以将一张图片分解为两层:底层和细节层。

底层包含图像的低频信息,反映图像大尺度的强度变化;细节层包含图像的高频信息,反映了图像小尺度的细节。

最底层乘以细节层就是源图像,细节层也可以称为商图像。

然后通过原始图像底层采样时在输入商图像的数据上添加额外的光源,就可以得到最终的输出图像。

最后的过程是这样的。

首先给定一张图片,然后计算图片中人的表面法线,然后计算图片中的可见光源,通过神经网络模型模拟附加光源并输出较低分辨率的商图像,然后使用由于细节层与原始照片的底层相乘,从而产生添加了额外光源的肖像照片。

谷歌还对管线做了很多优化,让模拟光效可以在手机上实时交互,而整个模型的大小只有10MB左右。

Pixel 5的人像光效可以说是谷歌计算摄影的典型案例。

通过不断训练神经网络模型,手机可以模拟现实生活中的人像照明。

完成了计算摄影新的应用场景。

有人说摄影是一门艺术,计算摄影从根本上来说是对摄影的侮辱。

然而,自从2000年法国人达盖尔制造出第一台实用相机以来,相机就从小众发展到大众化,直到手机相机的诞生,每个人都有几乎平等的拍照机会。

而人们的内心表达也逐渐丰富了摄影艺术。

是的,计算摄影既是“摄影”,又是“阴影计算”,但算法早已成为手机摄影不可或缺的一部分,追求的仍然是模拟现实中可以达到的效果。

毕竟没有人会把“魔法改变天空”称为计算摄影。

而当苹果和谷歌在计算摄影上越走越远时,我们发现算法其实是比硬件更强的壁垒。

Google 是如何在 Pixel 5 上打造人像光效的?

站长声明

版权声明:本文内容由互联网用户自发贡献,本站不拥有所有权,不承担相关法律责任。如果发现本站有涉嫌抄袭的内容,欢迎发送邮件 举报,并提供相关证据,一经查实,本站将立刻删除涉嫌侵权内容。

标签:

相关文章

  • 谷歌大招:Chromebook将支持Android应用

    谷歌大招:Chromebook将支持Android应用

    雷锋网消息:谷歌昨天(1月23日)发布通知,从今年开始,未来发布的所有Chromebook都将支持Android应用。 在CES上,宏碁和三星分别推出了两款Chromebook,这些Chromebook还配备了支持Android应用程序的最新系统。 要在 Chromebook 上安装 Android 应用,需要 Chrome OS 53 或

    06-17

  • 京东数科拟登陆科创板IPO,估值高达2000亿元

    京东数科拟登陆科创板IPO,估值高达2000亿元

    投资界(ID:pedaily)7月2日消息,据媒体报道,京东数科科技控股有限公司京东数科(以下简称京东数科)国泰君安(17., 0.00, 0.00%)、中信证券(24., 0.00, 0.00%)、五矿证券、华晶证券已与公司签署辅导协议在科创板IPO。 京东数科回应:不予评论。 6月26日,京东宣布与京

    06-18

  • 睿帆科技荣获第八届中国创新创业大赛广东赛区12强

    睿帆科技荣获第八届中国创新创业大赛广东赛区12强

    瑞帆科技荣获第八届中国创新创业大赛广东赛区12强。 2019年8月29日,第八届中国创新创业大赛(广东赛区)暨第七届“珠江天使杯”科技创新创业大赛在广州软件科技园圆满落幕。 超过10,000家企业报名参加了整个比赛。 经过初赛、复赛、地方、市级决赛的激烈角逐,来自全省的众多

    06-17

  • 视频会议、智能报告……钉钉的免费午餐更有诱惑

    视频会议、智能报告……钉钉的免费午餐更有诱惑

    雷锋网4月26日报道,阿里巴巴旗下企业协作工具钉钉今日在杭州召开春季战略发布会,并发布了包括多个视频在内的视频。 产品更新,包括会议和智能报告。 一周前,微信光研打造的企业微信刚刚上线。 无论是巧合,还是刻意安排,钉钉似乎已经“做好了准备”。 钉钉最新数据:已入

    06-17

  • 固博科技自主研发国产测试研发协作流程工具,助力芯片设计企业数字化

    固博科技自主研发国产测试研发协作流程工具,助力芯片设计企业数字化

    11月19日,上海固博科技有限公司(简称固博)成为中国首家专业从事半导体测试和研发协作的解决方案提供商。 河间科技)受邀出席合作伙伴河间工业软件集团新品发布会,并发布了业界首款国产研发的测试协作流程工具OneTest。 这将进一步加速中国芯片设计业的发展。 随着我国在智

    06-06

  • 小鱼区块链完成3000万元天使轮融资,UBAI投资

    小鱼区块链完成3000万元天使轮融资,UBAI投资

    4月12日投资界消息,近日,区块链领域创业公司深圳市小鱼区块链技术有限公司获得1万元天使投资轮投资,由深圳优比爱信息技术公司投资。 据悉,本轮融资项目谷链是区块链技术与农产品溯源相结合的实际应用。 深圳市小鱼区块链技术有限公司成立于2007年,是一家专业从事区块链

    06-18

  • 快赢科技获创江科技1000万元Pre-A轮融资,提供智慧旅游服务

    快赢科技获创江科技1000万元Pre-A轮融资,提供智慧旅游服务

    投资界消息11月5日,从相关媒体获悉,快赢科技近期完成1000万元Pre-A轮融资本轮融资,投资方为创江科技。   本轮融资将用于技术投入和市场推广。   快影科技是今年4月成立的智慧旅游解决方案提供商。   快影科技优化景区变现能力,提供游前、游中、游后多种营销方式,还

    06-17

  • 乔布斯去世八年后,蒂姆·库克是一名合格的苹果首席执行官吗? 10月5日

    乔布斯去世八年后,蒂姆·库克是一名合格的苹果首席执行官吗? 10月5日

    ,恰逢我国70周年国庆假期,也是苹果创始人乔布斯逝世8周年纪念日。 这一天,苹果首席执行官蒂姆库克也在推特上表达了对乔布斯的怀念。 推文引用乔布斯的话:“我们拥有的最宝贵的资源就是时间。 ” - 与这条推文相关的是乔布斯在纽约第五大道苹果专卖店前凝视的黑白照片。 当

    06-17

  • 2015“最强”中国创新创业大赛华东赛区来了,等你来参赛!

    2015“最强”中国创新创业大赛华东赛区来了,等你来参赛!

    关于大赛最“硬”的创新创业大赛。 纵观创业的繁荣,纵观历史,从未出现过如此大规模的创业浪潮。 正是总理的一句“大众创业、万众创新”点燃了创业的熊熊烈火。 ,还是因为时代的原因,我们无法回避创业?今天,是创业的繁荣时期,也是创业的艰难时期。 如果你加入了创业大军

    06-18

  • “新格视频”完成新一轮近亿元融资,同创伟业领投

    “新格视频”完成新一轮近亿元融资,同创伟业领投

    据投资界(ID:pedaily)2月20日消息,日前,南京新格视频信息技术有限公司专注于智视大数据的新格视频股份有限公司(以下简称“新格视频”)成功完成新一轮近亿元融资。 本轮融资由同创伟业领投。 这笔资金将用于进一步完善新格视频全产业链的产品布局和在市场体系领域的持

    06-17

  • 睡眠家居品牌“半日闲”获超千万元天使轮融资

    睡眠家居品牌“半日闲”获超千万元天使轮融资

    睡眠家居品牌“半日闲”近日获得超千万元天使轮融资。 本轮投资方为先锋K2VC和朱凡尔,元石资本独家服务财务顾问。 本轮融资将主要用于团队建设、产品研发和供应链优化。

    06-18

  • 阿里云创新峰会·遂昌专场暨2020遂昌数字生态产业峰会成功举办,阿里云与遂昌政府携手推动遂昌数字化创新发展

    阿里云创新峰会·遂昌专场暨2020遂昌数字生态产业峰会成功举办,阿里云与遂昌政府携手推动遂昌数字化创新发展

    11月25日,“开源成长杭翔遂昌”阿里云创新峰会遂昌专场暨遂昌数字生态产业峰会在杭州举行。 峰会聚焦遂昌数字生态经济发展,从“科技创新、文化创新、农业创新”三个方向共同探讨遂昌“数字绿谷”建设。 目前,一线城市的企业面临着人工成本高、运营成本高、员工交通住房成本

    06-17