Journal of Frontiers of Computer Science and Technology 计算机科学与探索 2020, 14(1)
越接近,这符合生成器的优化目标,即是要生成以假
乱真的样本(两个样本之间的概率分布很接近)。当
两个分布有重叠的时候,优化 JS 散度是可行的,而在
两个分布完全没有重叠部分,或者重叠的部分可以
忽略时,JS 散度是一个常数,此时梯度为 0,即生成器
在训练的过程中得不到任何的梯度信息,出现梯度
消失的现象。下面从两个分布是否有重叠部分分析
梯度消失的原因。
对于两个分布
p
data
(x)
和
p
g
(x)
,不难得出如下四
种情况,如图 4 所示。
情况 1
p
data
(x)= 0
且
p
g
(x)= 0
情况 2
p
data
(x)≠ 0
且
p
g
(x)≠ 0
情况 3
p
data
(x)= 0
且
p
g
(x)≠ 0
情况 4
p
data
(x)≠ 0
且
p
g
(x)= 0
(1)两个分布没有重叠部分。对于情况 1,由于
p
data
和
p
g
的取值都在函数的支撑集(support)之外,
因此情况 1 对 JS 散度无贡献。情况 2 由于两个分布
的支撑集没有交集,因此对最后的 JS 散度也无贡
献。对于情况 3,将
p
data
(x)= 0
且
p
g
(x)≠ 0
带入式(4),
得到式(5)。
JS(p
data
||p
g
)=
1
2
KL
æ
è
ç
ç
ö
ø
÷
÷
0||
0 + p
g
2
+
1
2
KL
æ
è
ç
ç
ö
ø
÷
÷
p
g
||
0 + p
g
2
= 0 +
∑
x~X
p
g
(x)× lb 2
(5)
由于
∑
x~X
p
g
(x)= 1 ,有
JS(p
data
||p
g
)= lb 2
。同理,对
于情况 4,有
JS(p
data
||p
g
)= lb 2
。说明此时生成器没有
得到任何梯度信息,梯度消失。
(2)两个分布有重叠部分。文献[18]指出,两个
分布在高维空间是很难相交的,即使相交,其相交部
分其实是高维空间中的一个低维流形,其测度为 0,
这说明两个分布相交部分可以忽略不计,此时 JS 散
度的值和(1)讨论的一致,换言之,
p
data
和
p
g
两个分
布只要它们没有重叠部分或者重叠部分可以忽略,
那么 JS 散度就固定是常数
lb 2
,这对于梯度下降法
而言意味着梯度为0。文献[19]证明了若存在一个判别
器
D
无限接近于最优解时,即
||D - D
∗
|| < ε
,有如下关系:
||∇
θ
Ε
z~p
( )
z
[lb(1 - D(g
θ
(z)))]||
2
< M
ε
1 - ε
(6)
这说明了当判别器训练得越好,无限接近于最
优判别器 D
G
∗
时,生成器的梯度消失越严重,即是:
lim
||D - D
∗
|| → 0
∇
θ
Ε
z~p
( )
z
[lb(1 - D(g
θ
(z)))] = 0
(7)
3.2 模式崩溃问题分析
GAN模式崩溃(mode collapse)是指 GAN 生成不
了多样性的样本,而是生成了与真实样本相同的样
本,该缺陷在数据增强领域中是致命的。为解决
GAN 梯度消失问题,Goodfellow 等人重新定义了损
失函数,如式(8)。
min
G
max
D
V(D, G) =
E
x~p
data
( )
x
[ ]
lb D(x) + E
z~p
z
( )
z
[ ]
-lb(D(x))
(8)
在最优判别器 D
∗
G
(x) 下,优化生成器的目标函数
如式(9)(具体计算结合式(4)、式(8))。
min(C(G)) = KL(p
g
||p
data
)- 2JS(p
data
||p
g
)
(9)
要优化该目标函数,则要求同时满足式(10)、
式(11)。
min (KL(p
g
||p
data
))
(10)
max (2JS(p
data
||p
g
))
(11)
式(10)要求
p
g
和
p
data
的概率分布一样,而式
(11)则要求
p
g
和
p
data
的概率分布不一样,这样会产
生矛盾,使得生成器无法稳定训练。放宽约束,只要
求满足式(10)同样不可行。如下:
(1)当
p
g
(x) → 0
且
p
data
(x) → 1
时,
p
g
(x)lb
p
g
(x)
p
data
(x)
→
0
,此时的
KL(p
g
||p
data
)
趋近于 0。该情况说明了生成
器生成了与真实样本相似的样本。
(2)当
p
g
(x) → 1
且
p
data
(x) → 0
时,
p
g
(x)lb
p
g
(x)
p
data
(x)
→
∞
,此时的
KL(p
g
||p
data
)
趋近于正无穷。该情况说明生
成器生成了不真实的样本。
情况(1)生成的样本缺乏多样性,惩罚较小,生
成器宁可生成一些重复但很安全的样本,也不愿意
生成多样性的样本,该现象就是模式崩溃。情况(2)
Fig.4 Sample probability distribution
图 4 样本分布图
4