N
.
Neverova
,
R.
A
.
居尔
岛
K
o
kk
i
n
os
通过优化指示图像质量的评分函数,例如GAN鉴别器损失的负值[33]。[33]的
工作通过最小化用完全观察到的面部补丁训练的
GAN
的鉴别器损失来修复任意
遮挡的面部在面部分析领域,最近通过在面部表面的UV坐标系中操作的工作产
生了令人印象深刻的结果,旨在逼真的面部修复
[34]
和姿势不变识别
[35]
。尽
管我们解决了类似的问题,但缺乏完整的紫外线记录(如[35,34])带来了额
外的挑战。
3
密集姿势转移
我们开发了我们的方法来围绕DensePose估计系统[1]进行姿势转移,以将每个
人体像素与其在人体的基于表面的参数化上的坐标以有效的自下而上的方式相
关联。我们以两种互补的方式利用DensePose输出,对应于
预测模块
和
扭曲模
块
,如图
2
所示
1.
一、扭曲模块使用
DensePose
表面对应和修复来生成人的新视
图,而预测模块是以输入和目标的
DensePose
输出为条件的通用
黑盒
生成模型
对应于两个并行流的这些模块具有互补的优点:
预测模块
成功地利用密集调
节输出来生成用于熟悉姿势的合理图像,提供优于从稀疏的基于地标的调节获
得的那些结果;同时,它不能概括为新的姿势,或转移纹理细节。相比之下,
扭
曲模块
可以保留高质量的细节和纹理,允许我们在统一的规范坐标系中执行修
复,并免费推广各种各样的身体运动。然而,它的身体,而不是衣服为中心的
建设不考虑头发,挂衣服,和配件。通过将这两个块的输出馈送到
混合模块中
来获得两全其美,该混合模块
被训练成使用端到端可训练框架中的重建、对抗
和感知损失的组合来融合和细化它们的
DensePose
模块对两个流都是通用的,并在图像和人体的基于表面的模型之
间提供密集的对应关系它首先将每个像素分配给
24
个预定表面部分之一,然后
回归每个像素的特定于部分的表面坐标该系统的结果被编码在三个输出通道
中,包括零件标签和零件特定的UV表面坐标。该系统被区分地训练,并且提供
用于从图像到人体表面的密集对应的简单的前馈模块我们省略进一步的细节,
因为我们依赖于[1]的系统,在第2节中描述了微小的实现差异4.第一章
概述了我们的系统的整体架构,在第二节。第3.1节和第3.3我们更详细地介
绍了我们的组件,然后在第二节。3.4在训练中使用的损失函数对体系结构的全
面描述