首页 > 科技革新 > 内容

Meta分享Codec Avatar的进展:曾经需要170个摄像头,现在只需要一部智能手机

发布于:2024-06-26 编辑:匿名 来源:网络

在自我标记方面,脸比任何其他属性都更重要,成为“我是谁”和“谁”我是不是”关键判断因素。

因此,人类对人脸非常敏感。

但对于生成逼真图像的虚拟数字人类来说,这构成了巨大的挑战,因为即使很小的偏差也会显着降低真实感和沉浸感。

为了克服这一困难,传统手段依赖于广泛的个人特定数据采集和手动处理。

这个过程既昂贵又耗时。

过去,要捕获编解码器头像,Meta 需要配备高分辨率摄像头的 MUGSY 设备。

因此,如何降低捕获需求成为团队需要攻克的紧迫问题。

在一篇题为 《Authentic Volumetric Avatars from a Phone Scan》 的论文中,Meta 表示,现在只需使用配备 RGBD 相机的智能手机即可实现逼真的拍摄。

从有限的数据自动创建阿凡达的核心挑战在于prior和evidence之间的权衡。

prior需要以轻量级的方式补充有关用户的外观、几何形状和运动的有限信息,比如仅通过手机摄像头,但这通常是以evidence为代价的,即失去真实感。

尽管该行业近年来取得了巨大进步,但以高分辨率了解人脸的多样性仍然具有挑战性。

对长尾进行建模对于捕捉个人特征(例如特定的雀斑、纹身或疤痕)是必要的,并且需要更高维度的潜在空间模型。

现代方法能够产生看似合理的人脸幻象,但无法以可用于识别他人的真实方式再现真实的人类。

一些研究人员通过优化潜在空间以外的空间实现了出色的逆重建,但这导致了强烈的伪影。

在这项研究中,研究人员打破了prior和evidence之间的权衡,消除了对不真实存在的人类产生幻觉的能力。

相反,他们使用手机数据来表示适应。

所描述的方法由三个主要元素组成:一个通用的prior超网络,在具有数百个特征的高质量多视图视频语料库上进行训练;根据手机扫描调整模型的注册技术;以及基于反向渲染的技术,用于根据附加表情数据微调个性化模型。

prior的架构基于这样的观察:面部外观和结构的长尾关键最适合直接从人类状况数据中提取,而不是从低维特征嵌入中重新提取的细节。

与之前的研究相似,研究人员发现低维嵌入的性能很快就趋于稳定,并且无法捕获个体特定的特征。

相反,他们发现通过增强现有方法,可以使用特定于人的多尺度“无结”偏差图忠实地重建特定于人的高 LOD(细节级别)。

该偏差图可以使用 U-Net-styre 的网络从用户中性扫描的未扭曲纹理和几何形状生成。

这样,Meta 的模型就是一个超网络,可以接收用户中立的面部数据,并以偏差图的形式为个性化解码器生成参数。

综上所述,该团队的通用prior和自适应策略使得能够通过单次中性扫描即时创建高度逼真的虚拟数字人类,并且只需要少量的表达扫描即可生成跨越人类表达范围的模型。

团队表示,所描述的方法改进了手机捕获的头像生成技术,而不会显着增加用户侧的要求。

现有的方法可能会产生似是而非的幻觉,但他们的方法可以产生一个看起来和动作都像特定人的化身。

此外,所描述的模型继承了现有个体特定模型的速度、分辨率和渲染质量,因为它使用类似的架构和渲染机制。

因此非常适合交互帧率要求较高的应用,比如VR。

研究人员声称,基于智能手机的扫描过程平均只需要 3.5 分钟。

当然,生成具有所有细节的虚拟数字人需要在具有四个高端 GPU 的机器上工作六个小时,但如果部署在生产中,这些步骤可能会在云端而不是在用户的本地设备上进行。

此外,该团队承认,目前的系统无法处理眼镜或长发,并且仅限于头部,不包括身体的其他部位。

相关论文:手机扫描的真实体积头像 因此,要真正实现图像逼真的头像民用化,Meta 还需要继续努力。

今年4月,Codec Avatar团队负责人Yaser Sheikh表示,无法预测它离实际应用还有多远。

Meta分享Codec Avatar的进展:曾经需要170个摄像头,现在只需要一部智能手机

不过,他指出,在项目开始时,团队距离实现目标还有“十个奇迹”,但他相信现在只剩下“五个奇迹”。

Meta分享Codec Avatar的进展:曾经需要170个摄像头,现在只需要一部智能手机

站长声明

版权声明:本文内容由互联网用户自发贡献,本站不拥有所有权,不承担相关法律责任。如果发现本站有涉嫌抄袭的内容,欢迎发送邮件 举报,并提供相关证据,一经查实,本站将立刻删除涉嫌侵权内容。

标签:

相关文章

  • 东车日报 - 2月新能源汽车渗透率达21.8%-国际油价再创新高,国家发改委称国内稳定-日产Z即将投产

    东车日报 - 2月新能源汽车渗透率达21.8%-国际油价再创新高,国家发改委称国内稳定-日产Z即将投产

    介绍高合新高合SUPRA或将上市7月投产 日产Z将于3月投产 6月海外销售 乘联会公布2月中国汽车销量数据 通用汽车中国拟建立独立销售渠道 引入进口车业务 现代将推出新款2020年电动车架构IMA国际油价再创新高,国家发改委称我国能源供应有保障,车手电动滑板车冠军候选人名单即将

    06-21

  • 国务院部署“专精特新万企”行动,鼓励各地为每个企业至少解决一个困难

    国务院部署“专精特新万企”行动,鼓励各地为每个企业至少解决一个困难

    国务院促进发展领导小组办公室近日发布头条新闻中小企业《为“专精特新”中小企业办实事清单的通知》。 《通知》拟开展“专专特新万企行”活动。 年底前,推动地方政府对所有“专、特、新”中小企业进行实地走访,为每个企业至少解决一个困难。 事实清单始终坚持问题导向、需

    06-18

  • 天猫精灵6月推出智能音响新品,以深沉低音、跨层次音效为核心卖点

    天猫精灵6月推出智能音响新品,以深沉低音、跨层次音效为核心卖点

    5月24日,天猫精灵今日宣布与全球音响巨头波士顿音响达成深度合作顶级声学机构。 双方联合调校的首款智能音箱产品将于6月初推出。 据悉,这是波士顿声学成立40多年来首次与中国智能音箱产品合作。 该产品具有极致的低音和均衡的全频域声音表现,能够准确还原演出场景和音乐人

    06-18

  • 中国自主打造新型光刻机

    中国自主打造新型光刻机

    北京时间11月29日,中科院光电技术研究所宣布,国家重大科研装备研制项目“超分辨光刻装备研制”已立项通过验收,成为全球首个紫外光源。 22nm分辨率光刻机。 据《科技日报》报道,中科院光电技术研究所副总工程师胡松透露,新验收的光刻机采用纳米紫外汞灯,每台成本仅几十上

    06-06

  • 880亿巨亏!孙正义创造了风险投资史上最大的漏洞

    880亿巨亏!孙正义创造了风险投资史上最大的漏洞

    这对于软银和孙正义来说注定是一个艰难的夜晚。 据投资界消息(ID:pedaily)消息,4月13日晚间,软银发布财年业绩预告,首次公布了一组数据:基于对市场环境恶化的判断,预计本财年营业亏损为1.35万亿日元(约合人民币1亿元),预计本财年净亏损为1亿日元。 为什么今天会出现

    06-17

  • 苹果头戴式显示器“翻车”小扎公开“嘲讽”

    苹果头戴式显示器“翻车”小扎公开“嘲讽”

    作为被蒂姆库克CEO视为带来“空间计算”时代的新产品,苹果头戴式显示设备VisionPro在上市后两次获得市场反馈其发布引起关注。 2月2日,VisionPro在美国正式上线。 根据官方政策,购买该产品的消费者有两周的退货期。 不过,随着首批VisionPro用户进入最后的退货窗口期,近期

    06-18

  • 【融资24小时】2023年6月26日投融资事件汇总及详情

    【融资24小时】2023年6月26日投融资事件汇总及详情

    今日国内市场共发生15起投资披露事件,其中医疗健康5起(华匠医疗、康康生物、普瑞基准、先石生物、透图影像)、先进制造案例3个(江海科技、帕孚、汉特云)、企业服务2个(智能微电子、开源中国)、金融案例2个(华阳、深圳照明科技)、电商零售2个案例(快牛智盈、世宇)、

    06-18

  • 特斯拉全球裁员10%以上,迎接新增长周期

    特斯拉全球裁员10%以上,迎接新增长周期

    特斯拉简介及里程碑回顾 特斯拉公司成立于2007年,是一家电动汽车和清洁能源公司,总部位于美国加利福尼亚州。 特斯拉以其创新的电动汽车和能源解决方案而闻名,致力于推动全球向可持续能源转型。 过去两年,特斯拉实现了多个重要里程碑: ● 2016年,特斯拉推出最新车型Mode

    06-18

  • 中关村软件园已入驻700多家国内外知名IT企业总部及全球研发中心

    中关村软件园已入驻700多家国内外知名IT企业总部及全球研发中心

    头条新闻是服贸会在即,《北京日报》专门发文介绍北京数字贸易在服务贸易博览会上。 文章称,中关村软件园呈现出典型的现代服务业高端形态,已成为众多国内外知名IT企业总部和全球研发中心的所在地。 总部经济占比超过80%。 作为北京唯一拥有国家数字服务出口基地、国际信息产

    06-18

  • 打造快消品数据雷达平台,立即获数千万美元A+轮融资

    打造快消品数据雷达平台,立即获数千万美元A+轮融资

    据投资界(ID:pedaily)1月20日消息,据36氪报道,快消品消费品数据雷达平台“立马拿下”数千万美元A+轮融资,由元璟资本、DCM资本投资,浪潮资本独家投资。 据悉,本轮融资将主要用于超市便利店数据联盟建设以及快消品雷达商业化。 《Win Now》原名《马商赢》。 在披露融资

    06-18

  • macOS 11正式版体验:大更新!苹果已经把iOS风格搬到了电脑上

    macOS 11正式版体验:大更新!苹果已经把iOS风格搬到了电脑上

    今年新的macOS正式版比往年推得晚了一点。 这显然与 Mac 发布较晚有关,但好的一面是,苹果也有更多的时间来调试 macOS,使其更加稳定。 今年 6 月第一个测试版发布后,我升级了我的 16 英寸 MacBook Pro。 那时候每天都会遇到软件崩溃、卡顿,还有应用程序不适配导致的界面错

    06-21

  • 新欢科技完成数千万元Pre-A轮融资,由鲁信创投

    新欢科技完成数千万元Pre-A轮融资,由鲁信创投

    投资界(ID:pedaily)消息、深圳市新欢科技有限公司(简称“新欢科技”)领投6月完成多轮融资千万元Pre-A轮融资,本轮融资由鲁信创投领投。 凯诚资本担任本次交易的独家财务顾问。 新欢科技成立于今年10月。 是一家专注于高端主动心血管介入影像、自然腔介入影像和先进诊断方

    06-18