![](https://csdnimg.cn/release/download_crawler_static/88473355/bg3.jpg)
StyleGAN2
(
ADA
)
DiffAugment
图
2. LSUN C
AT和
LSUN C
HURCH
的性能
。我们在不同大小的训练样本和完整数据集上与领先的方法
StyleGAN 2-ADA [39]
和
DiffAugment [101]
进行了比较。我们的方法优于他们的一个很大的保证金,特别是在有限的样本设置。对于
LSUN C
AT
,
我们
实现了与
StyleGAN2 [ 42 ]
类似的
FID
,它只使用
0
在全数据集上训练。数据集的
7%
分类器头
{
C
n
}
N
以测量
P
X
之间的间隙
0.4
0.2
0.0
0M 1M 2M 3M 4M 5M 6M
迭代
在训练之后,特征提取器
Fn
被冻结,并且仅分类器头
部被更新。基于预训练的特征提取器,用来自D的梯度
和鉴别器
Dn
更新生成器G。通过这种方式,我们建议在
对抗性
图3.培训和验证准确度w.r.t.在FFHQ 1 k数据集上训练我们基
于DINO [11我们基于预训练特征的神经网络在验证真实图像
时具有更高的准确性
GAN训练的时尚,我们称之为
视觉辅助对抗
训练:
视觉辅助对抗损失
从而显示出更好的通用性。在上述训练中,在
2M
迭代时添加
视觉辅助对抗性损失。
理想情况下,测量器应测量P
X
和P
θ
之间的间隙,并
将发生器引导至P
X
。然而,在实践中,大容量鉴别器
很容易在给定的训练集上过拟合,特别是在有限的数
据范围内[39,101]。不幸的是,如图3所示,即使我们
采用最新的可微数据扩充[39]来减少过拟合,但该方法
仍然倾向于过拟合,无法在验证集上表现良好此外,
人工智能可能会关注人类无法识别但对机器明显的工
件[85]。
为了解决上述问题,我们建议将一组不同的深度特
征表示作为我们的区分,
其中D
n
=
C
n
<$
F
n
。
这里,
Cn
是预训练特征上的小的可训练头。上述训
练目标涉及基于所有可用的预训练模型Fn的平均损失
之和。在每次训练迭代中解决这个问题将是计算和内
存密集型的。使用所有预训练的模型将迫使批量大小
显着减少,以将所有模型放入内存中,这可能会损害
性能[9]。为了绕过计算瓶颈,我们自动选择K
个
模型
的一个小子集,其中K N:
K
nator这种新的监督来源可以在两个方面使我们受益。
首先,训练一个浅层分类器,
特征是使深度网络适应小规模数据集的常用方法,同
时减少过拟合[16,29]。如图3所示,我们的方法大大
减少了过拟合。其次,最近的研究[6,95]表明,深度
网络可以从低级视觉线索(边缘和纹理)到高级概念
(对象和对象部分)捕获有意义的视觉概念。建立在
这些特征上的神经网络可能更好地匹配人类感知[98]。
3.1.
制剂
其中
D
k
=
C
k
F
k
表示对应
于第
k
个所选模型的
k
,并且
k
∈
{1
,
. -
是的
-
是的 ,
K
}。
3.2.
模型选择
我们选择的模型,其现成的特征空间最能区分样本
与真实和虚假的分布。给定预训练模型
模型集合中最强的
adversary
是
F
k
,其中
给定一组预训练的特征提取器
F
=
{F
n
}
N
,它学会处理不同的视觉任务,我们
k
=
arg
max
{
max
V
(
Dn
′
,
G
)
}
,
其中
D
n
′
=
C
n
′
[
医
]
真菌
;
真菌