首页 > 科技未来 > 内容

VR面部追踪技术:虚拟世界里你也能清晰看到我的笑脸

发布于:2024-06-18 编辑:匿名 来源:网络

最近,一家名为Veeso的公司开发了一款社交VR耳机,可以追踪玩家的面部表情。

官方称,这是世界上第一个能够追踪玩家面部表情的系统。

一款可以捕捉面部表情并将其实时转化为数字人物的 VR 设备目前正在 KickStarter 上众筹。

实时转换效果如下: VR社交目前存在的问题 VR社交现阶段已经完成了对社交对象的方向、位置、基本姿势、头部的追踪,但这仅仅满足了最基本的需求:互相交流,看到对方的身体。

目前,Altspace VR、High Fidelity 和 vTime 均已开发出 VR 社交耳机。

三人为玩家提供了一个化身(Avatar),以在虚拟世界中代表自己。

但图像建模过于“粗糙”,甚至无法反映用户的动作。

和表情,而其内置的VR社交环境也是基于传统社交应用的交互方式。

为了让VR社交变得更加有趣,Altspace VR开始整合各种功能和小游戏,比如网页浏览、美术馆、桌面游戏赌场等。

然而,VR社交的核心是人与人之间的互动,不是游戏和环境。

现实生活环境中人类的社交互动不仅仅局限于言语交谈,还需要根据面部表情了解对方的真实想法和感受。

据统计,人类在社会交往中的信息交流只有30%是通过语言实现的,剩下的70%是通过表情和肢体动作来实现的。

因此,表情捕捉在VR社交中显得尤为重要。

VR面部追踪技术:虚拟世界里你也能清晰看到我的笑脸

通过创建与真实表情完全同步的虚拟场景,玩家可以通过表情变化来改善社交伙伴的社交感情。

面部捕捉技术 1. 通用面部捕捉技术 通用面部表情捕捉技术可以将定制的虚拟角色上的真实面部表情动画化,使其角色栩栩如生,营造更加身临其境的虚拟现实体验。

,广泛应用于好莱坞电影特效制作中。

苹果去年收购的 Faceshift 是一家面部表情动作捕捉公司。

该产品捕捉演员的面部动作,并将其复制到动画电影和游戏中的虚拟角色中。

然而,这种识别技术存在两个问题。

首先是用户需要在脸上打上标记点。

标记点是电路板设计中自动贴片机上使用PCB的位置识别点。

高速摄像机用于捕捉人的面部特征。

标记点以逆向计算面部运动。

放置标记点的过程繁琐复杂,只适合专业表演,不适合普通玩家。

第二个问题是上述识别技术不是实时的,需要后期MAYA和3D MAX合成。

2、Veeso面部捕捉特点Veeso的特点是用户不需要在脸上画标记点,可以实时捕捉并直接实时同步在虚拟数字人物中。

Veeso的 VR 耳机原型有两个摄像头,一个隐藏在耳机中,用于记录玩家的眼球和眉毛运动;另一个则隐藏在耳机中,用于记录玩家的眼球和眉毛运动;另一个摄像头则隐藏在耳机中,用于记录玩家的眼球和眉毛运动。

另一个从耳机正下方突出,记录用户的嘴巴和下巴运动。

两个摄像头同时记录眼球、眉毛、嘴巴和下巴的运动,将面部表情映射到化身的脸上。

3、实时面部捕捉的技术难点 由于跟踪面部表情并在虚拟屏幕中再现面部表情是同步的,因此其技术实现难度较大,主要是由于:跟踪和再现(映射到虚拟头像)的延迟、设备数据处理的延迟能力、跟踪传感器的敏感精度、社交网络的带宽等等。

而且,面部追踪涉及学科广泛,包括CV、电子、机械、心理感知、机器学习、面部动画、传感器等技术。

实时人脸抓拍的操作流程大致如下。

传感器首先跟踪人的表情。

数据处理后,通过高速宽带网络传输至社交对象的VR设备,并在其虚拟环境中再现。

现有解决方案 事实上,已经有很多团队在尝试VR面部捕捉技术。

南加州大学助理教授李浩正在与 Oculus 合作研究虚拟现实耳机的面部追踪功能。

该设备的初始原型和研究论文“面部性能传感头戴式显示器”于2017年在SIGGRAPH(图形与交互)(特殊技术爱好者组)上首次披露。

在他们的合作研究中,他们发现,由于VR玩家的头部被HMD部分遮挡,这会给VR中的面部表面跟踪带来很大麻烦。

因此,研究人员尝试使用它。

传感器嵌入泡沫板内(下图中黄色标记部分),通过感知面部肌肉的抽动来捕捉玩家脸上的表情,而从正面延伸的摄像头则用于追踪用户的下巴和嘴部运动,李浩谈到这个原型机时说道。

事实证明,在虚拟现实耳机下使用应变传感器结合机器学习算法来推断面部表情是可能的,但这样的设备距离实现面部表情的完美跟踪和再现还有一段距离。

与下巴追踪方式类似,在产品正面添加了突出的支架和摄像头。

有人尝试使用Lip Sync通过声音计算虚拟角色的嘴型,让玩家的嘴型能够与他所说的话相匹配。

将嘴巴的动作与声音相匹配在最基本的对话情况下效果很好,但如果玩家想默默地做个鬼脸,那就行不通了。

一项外国技术根据虚拟场景中发生的事件再现表情。

当玩家在虚拟场景中遇到紧急情况时,根据事件内容推断用户的兴趣焦点,最终产生眼球运动。

通俗地说,就是根据具体场景推断玩家的眼神。

另一种新型技术首先利用摄像头捕捉下半张脸,然后利用深度学习分析下半张脸的表情,从而还原出完整的脸部。

虽然这两项技术不能被视为主流采集技术,但它们可以在主流解决方案中起到打磨作用,使得基于推测算法的采集和再现更加准确。

据官方介绍,Veeso的耳机可以适配所有iOS和Android设备。

它不仅支持目前市面上的VR内容,还有多款自主开发的游戏供玩家选择。

从目前在Kickstarter上发布的演示视频来看,耳机的面部追踪系统以及VR场景中的表情演示还不够准确,还有很多技术问题需要解决。

因此,所谓“全球首款内置面部追踪技术的VR设备”的称号并不能代表其有多么颠覆性。

目前该项目的抢先体验价格为70美元,开发者可以花80美元购买设备和开发套件。

VR面部追踪技术:虚拟世界里你也能清晰看到我的笑脸

站长声明

版权声明:本文内容由互联网用户自发贡献,本站不拥有所有权,不承担相关法律责任。如果发现本站有涉嫌抄袭的内容,欢迎发送邮件 举报,并提供相关证据,一经查实,本站将立刻删除涉嫌侵权内容。

标签:

相关文章

  • 谷歌放弃试用6年的超级宽带计划:谷歌光纤面临出售

    谷歌放弃试用6年的超级宽带计划:谷歌光纤面临出售

    今年10月,雷锋网报道称,谷歌光纤项目负责人克雷格巴拉特在博客中宣布辞职。 作为特别顾问继续支持 Google Fiber 项目。 昨晚(12月28日),又有外媒报道称,谷歌很可能出售其光纤业务。 作为Alphabet(谷歌母公司)负责谷歌Fiber业务的子公司,Google Access今年以来陷入了

    06-17

  • 嘉能可计划上市前引入中投或在香港、伦敦上市

    嘉能可计划上市前引入中投或在香港、伦敦上市

    据香港媒体报道,早前有报道称瑞士商品交易所耀明嘉能可(嘉能可)计划在香港和伦敦上市。 据外媒昨日报道,嘉能可近期引入中国投资公司和卡塔尔投资局主权投资基金进行洽谈,吸引1亿美元(约1亿港元)作为其伦敦上市的基本投资者。 如果成功上市,将成为规模前十的公司之一。

    06-18

  • 场景实验室获得IDG资本数千万元A+轮融资,吴声对未来新物种做出10个预测

    场景实验室获得IDG资本数千万元A+轮融资,吴声对未来新物种做出10个预测

    据投资界8月6日消息,情景实验室创始人吴声在《新物种爆炸吴声场景课堂》召开新闻发布会,宣布已完成1000万元A+ IDG资本投资的A轮融资。 此前,其于今年12月完成由盛景网联领投的万元A轮融资。 5月  ,吴声推出“新物种实验计划”。 该计划是由情景实验室、洛可可设计集团

    06-18

  • 三星首款5nm芯片即将亮相

    三星首款5nm芯片即将亮相

    IT 10月11日,三星宣布将发布全新旗舰处理器Exynos。 Exynos是三星首款基于5nm工艺的手机芯片。 据悉,Galaxy A72有望搭载这款处理器。 据悉,搭载三星Exynos的vivo X系列旗舰新机将于年内推出。 据报道,三星Exynos将采用三星自家的5nm LPF工艺,该工艺比Exynos使用的8nm工

    06-06

  • 探讨人工智能机遇与挑战,摩尔线程CEO张建中出席之江圆桌会议

    探讨人工智能机遇与挑战,摩尔线程CEO张建中出席之江圆桌会议

    5月9日,“之江圆桌会议”由之江实验室发起,浙江省发展基金会和杭州人工智能产业联盟联合主办。 “人工智能之争——机遇与挑战”,聚焦我国人工智能核心竞争力与国际领先水平的差距,国内算力、大模型技术等能否实现赶超和突破等,并围绕人工智能发展的协同创新、浙江实验室

    06-17

  • 前百度高管副总裁-向海龙成立新基金:完成首期募资2亿元,专注To B天使投资

    前百度高管副总裁-向海龙成立新基金:完成首期募资2亿元,专注To B天使投资

    投资社区(微信ID:pedaily)1月10日消息,据36氪报道,前百度副总裁高层创办的龙中信谊基金目前已完成首期人民币基金募集,规模2亿元人民币,将重点进行To B方向的天使阶段投资。 向海龙表示,该基金的资金来源并非自有资金,但并未透露LP的具体构成。 据悉,除一期基金外,

    06-18

  • 中国最强VC来势汹汹:一战赚千亿

    中国最强VC来势汹汹:一战赚千亿

    “最强VC城市”合肥又出手了。 据投资界消息,1月27日,零跑汽车宣布完成43亿B轮融资。 除国投创益、浙大九智、永华资本外,战略投资者还包括合肥政府投资平台。 据悉,零跑汽车已与合肥市签署战略合作协议,未来双方将开展更多合作。 绝无巧合。 同样在昨天,有消息称,珠海

    06-18

  • 唐仁深拟设立总规模10亿元产业投资基金

    唐仁深拟设立总规模10亿元产业投资基金

    据投资界消息,8月14日,唐仁深与财新产业基金、湖南资管签署合作框架协议,共同设立和管理产业投资基金。 运营唐仁申产业投资基金。 该基金采取合伙形式,总规模暂定10亿元,其中首期投资2亿元。 据悉,唐人神产业投资基金将通过合作、投资参股、并购等方式,实现在生猪生态

    06-18

  • 宁波永源投资基金有限公司(暂定名)招聘公告

    宁波永源投资基金有限公司(暂定名)招聘公告

    宁波永源投资基金有限公司(暂定名)招聘公告 1、公司简介 宁波市政府投资基金经市政府常务会议批准市政府并通过市财政预算安排设立宁波市各类政府投资基金一级母基金,重点支持宁波产业转型升级发展、创新创业、重大项目招商、基础设施建设宁波甬源投资基金有限公司(暂名)

    06-17

  • 广州瑞派医疗完成近亿元A轮融资,斯道资本领投

    广州瑞派医疗完成近亿元A轮融资,斯道资本领投

    12月21日报道,一次性内窥镜制造商广州瑞派医疗股份有限公司完成近亿元A轮融资。 本轮融资由斯道资本领投,原股东元和元典跟投。 融资资金将用于进一步巩固和拓展产品研发管线、加快自动化生产线的推进、扩大品牌的市场投入。 瑞派医疗成立于2007年,是一家专注于提供一次性

    06-17

  • 新疆库车:首支政府产业投资母基金成功设立

    新疆库车:首支政府产业投资母基金成功设立

    投资界(ID:pedaily)4月24日消息,近日,库车市库车产业投资基金合伙企业(有限合伙)成功设立投资中信建投证券投资基金行业协会完成注册。 这标志着库车市首支政府产业投资母基金、南疆首支县级政府产业投资母基金成功设立。 基金总规模为10亿元人民币,基金认购期限为20年

    06-18

  • 威马汽车再出手,全资收购北京金开宏达汽车租赁公司

    威马汽车再出手,全资收购北京金开宏达汽车租赁公司

    据投资界消息,威马汽车近日全资收购了北京金开宏达汽车租赁公司。 北京金凯宏达汽车租赁有限公司于12月成立,注册资本1万元,法定代表人刘利群。 公司经营范围包括汽车租赁(不含九座以上客车)、汽车零部件销售、家政劳务等。 企查查数据显示,9月26日,北京金凯宏达汽车租

    06-18