的逼真效果更进一步 ML AR 谷歌 通过引入 实时自拍 ARCore

雷锋网 AI 科技评论按:ARCore 是谷歌于去年 2 月份正式推出的 增强现实(AR)软件开发工具包,给开发者提供了一个开发 AR APP 的平台。不到一个月前,谷歌正式推出 ARCore 1.7 版本,为其添加了前置摄像头 AR 自拍能力以及动画效果支持;而日前,谷歌又为其引入了机器学习技术,使其实时自拍 AR 的逼真效果更进一步,该技术相关的文章发布在谷歌 AI 的官方博客上,雷锋网 AI 科技评论编译如下。

通过将数字内容与信息叠加到物质世界的真实场景中,来让人类实现超越现实的感官体验。例如, 谷歌地图的 AR 功能 ,能够在现实场景中叠加方向信息来为你指路。借助于 Pixel 相机中的 Playground 模式 ,你可以使用 AR 从不同的视角看世界。并且通过借助于最新发布的 「YouTube Stories」 以及 ARCore 全新的面部增强(Augmented Faces)API ,你可以在自拍上添加动画面具、眼镜、帽子、皮肤等特效。

实现这种 AR 功能的关键挑战之一,就是以合适的方式将虚拟内容锚定到现实世界:这一过程需要一套能够追踪到每一次微笑、皱眉或假笑的高动态表面几何结构的独特的感知技术。

通过引入 ML,谷歌 ARCore 实时自拍 AR 的逼真效果更进一步

ARCore 的3D 网格以及它能实现的一些特效

为此,我们引入了机器学习(ML)技术来推断近似的 3D 表面几何结构,并且仅需要用到一个单摄像头输入而无需使用专用的深度传感器。这种方法利用面向移动 CPU 界面推断或其可用的全新移动 GPU 功能的 TensorFlow Lite ,实现了逼真的实时 AR 效果。与「 YouTube Stories」 全新的创作者特效所利用的技术一样,这项技术已通过 最新的 ARCore SDK 和 ML Kit Face Contour Detection API 向广泛的开发者社区开放。

用于自拍 AR 的机器学习工作流

我们的机器学习工作流由两个协同工作的实时深度神经网络模型组成:一个是探测器,它在整张图像上运行并计算出面部位置;另一个是通用的 3D 网格模型,它在探测器计算出来的面部位置上运行,并通过回归预测近似的表面几何结构。精确地裁剪面部能够极大地减少对一般的数据增强的要求,例如由旋转、平移和比例变换组成的仿射变换(affine transFormations)等,同时让网络将大部分性能投入于预测坐标来提高其准确性——这对于锚定合适的虚拟内容至关重要。

裁剪完所关注的位置后,该网格网络一次仅应用于一个单帧,并利用加窗平滑(windowed smoothing)来减少面部处于静态时的噪音,同时避免在大幅移动期间出现的延迟。

通过引入 ML,谷歌 ARCore 实时自拍 AR 的逼真效果更进一步

针对 3D 网格,我们采用了 迁移学习 ,并训练了一个具有多个目标的网络:该网络能够同时地基于合成、渲染的数据预测 3D 网格坐标以及基于类似于所提供的带有注释的、现实世界的数据预测 2D 语义轮廓。最终的网络为我们提供了基于合成数据乃至现实世界数据的合理的 3D 网格预测。所有模型都在源自于地理学多样化的数据集的数据上进行训练,并接着在平衡、多样化的测试集上进行定性和定量性能的测试。

3D 网格网络接收经裁剪的视频帧作为输入。由于它不依赖于额外的深度输入,因而也可以应用于预先录制的视频。该模型不仅输出 3D 点的位置,还输出在输入中存在并合理对齐的面部概率。一种常见的替代方法就是为每个地标预测出 2D 热图,但这种方法并不适用于深度预测,并且对于如此多的数据点来说,使用这种方法耗费的计算成本非常高。

通过迭代自展和精炼预测,我们进一步提高了模型的准确性和鲁棒性,同时也将数据集发展成为愈加具有挑战性的实例,如鬼脸,拍摄角度倾斜以及面部遮挡等。此外,数据集增强技术也扩展了可用的 ground truth 数据,并开发出了对摄像头瑕疵等人工产品问题或极端光照条件具有弹力的模型。

通过引入 ML,谷歌 ARCore 实时自拍 AR 的逼真效果更进一步

数据集扩展和改善路径

我们使用 TensorFlow Lite 进行设备内置的神经网络推理。 新推出的 GPU 后端 加速能够有效提升性能,并显著降低功耗。此外,我们还设计了具有不同性能和效率特性的一系列模型架构,来覆盖到更加广泛的消费级硬件。较简单网络之间的最重要的区别就在于残差块(Residual Block)设计和可接受的输入分辨率(最简单模型中的输入分辨率为 128×128 像素,而最复杂模型中的输入分辨率为 256×256)。同时,我们还改变了层数以及子采样率(输入分辨率随网络深度的减少而减少的速度)。

通过引入 ML,谷歌 ARCore 实时自拍 AR 的逼真效果更进一步

这一系列的优化的结果就是:使用更简单的模型带来了实质性的加速,同时也将 AR 特效质量的降低幅度最小化。

通过引入 ML,谷歌 ARCore 实时自拍 AR 的逼真效果更进一步

最复杂模型(左)和最简单模型(右)的比较:在简单模型上,时序一致性以及对嘴唇、眼睛的追踪稍微降低。

这些成果最终则能够通过以下方式,让用户在 YouTube、ARCore 以及其他客户端体验到更加逼真的自拍 AR 效果:

通过引入 ML,谷歌 ARCore 实时自拍 AR 的逼真效果更进一步

另外,我们还通过以下方式实现了逼真的妆容效果:

通过引入 ML,谷歌 ARCore 实时自拍 AR 的逼真效果更进一步

案例对比:5 个目标在不同光线下的真实化妆效果以及 AR 化妆效果

我们很高兴将这项新技术分享给创作者、用户以及开发者。感兴趣的读者可以通过下载最新的 ARCore SDK (下载地址:)来将这项技术用起来。未来,我们还计划将这项技术广泛应用到更多的谷歌产品线中。

via:

原创文章,未经授权禁止转载。详情见 转载须知 。

通过引入 ML,谷歌 ARCore 实时自拍 AR 的逼真效果更进一步

全局中部横幅
神算命

神算命占卜网,大师真人在线算命,真人预测,免费算命,算命大师,算命街,算卦街,真人在线一对一算命,批八字,算卦、占卜、风水,星座,生肖,起名,面相手相,在线预测,网上算命,周易,五行,奇门遁甲,易经命理,算命一条街。

小鹅通客服

小鹅通开通热线:4000371003、小鹅通客服,小鹅通服务商:13316880029,专注于在线教育直播课堂一站式服务;提供小鹅通店铺开店指导、店铺装修、线上运营、招生引流等服务,为您打造独立专属在线直播课程。小鹅通官网,小鹅通客服,小鹅通客服电话,小鹅通开通,小鹅通开通咨询,小鹅通价格咨询,小鹅通怎么开通,小鹅通开通费用,河南小鹅通,深圳小鹅通,小鹅通官方咨询,郑州小鹅通,广州小鹅通。

深圳宣传片拍摄制作公司

【象美传媒】深圳宣传片制作,拍摄产品广告片,海外众筹视频拍摄,企业短剧拍摄公司,深圳宣传片制作影视团队,企业宣传片拍摄/产品TVC广告宣传片,产品短视频拍摄制作筹划执行

指标100公式网

指标100网是一个全新的,通达信公式指标分享平台,支持会员购买,免费下载,通达信公式指标自助下载,通达信副图指标下载,通达信选股公式下载,通达信竞价指标公式源码下载。

干粉砂浆设备

河南鑫恒岩重工科技有限公司是主要生产砂浆设备生产线的厂家,公司以生产干粉砂浆设备,干混砂浆设备,砂浆设备,干混砂浆搅拌站,干粉砂浆生产线,干混砂浆生等为主,集研发、生产、销售为一体的企业。

[在云南]

顺风车|求职招聘|房屋租售|二手车|生意转让|本地头条|同城吃喝玩乐-[在云南]-云南全方位的便民信息服务平台-昆明大观网

轻喜到家

深圳轻喜到家中国家庭数字化生活服务平台,轻喜到家提供日常保洁、高端保洁、保姆、母婴护理、育婴早教、产康护理、家电清洗、家居养护等专业的到家服务。

海川蛋制品有限公司

亳州市海川蛋制品有限公司2001年1月成立,专注鸡蛋制品研发生产。总投资5000余万元,专业生产多种蛋粉产品,年产3000余吨。如鸡蛋黄粉、全粉等。是从事蛋制品的专业企业。

云茶之邦茶业官网

云茶之邦创立于2005年,以“勤劳认真出好茶”的理念,主做临沧市三座大雪山原生态古树普洱茶,多年沉淀至今已建成集加工、生产、销售、仓储、茶文化传播、茶文旅为一体的普洱茶完整产业链企业。

携车网

携车网是上海车水马龙信息技术股份有限公司旗下网站。上海车水马龙信息技术股份有限公司成立于2011年,是国内最早进入汽车后市场的O2O网站,致力于为车主提供省钱、省事、透明的高品质汽车维修保养服务。

全局底部横幅