![](https://csdnimg.cn/release/download_crawler_static/88424005/bg4.jpg)
S. 乔,W.沈,Z.张湾,澳-地Wang和A.Yuille
当
Co-Tr
为
在
p1
(
x
)
=
p2
(
x
)
处的共同的
h时,则
在
D
∩
D
′
=
处,
我们不知道.但D是我们所有的数据;因此,D
′
必须用生成方法建立。另一
方面,假设
p1
(
x
)和
p2
(
x
)可以达到
对自然获得的数据具有非常高的准确性(
例如,
D),假设
p1
(x)
p2
(x),
x
∈
D
′
al
满足
D′的边界条件,且D ′的边界条件是由一个向量表示的。
我们考虑生成方法
g
(
x
)的简单形式,其从D获取数据
x
以构建
D
’
,
即
D
’
=
{
g
(
x
)
|
x
∈
D}
.对于任意
x
∈
D
,我们希望
g
(
x
)
−
x
很小,这
样
g
(
x
)看起来也像自然图像。但是当
g
(
x
)
−
x
很小时,很可能
p1
(
g
(
x
))
=
p1
(
x
)和
p2
(
g
(
x
))
=
p2
(
x
)。自从Co-
设
p
_
1
(
x
)
=
p
_2
(
x
)
,
∈
D,且
p
_
1
(
g
(
x
))
p_
2
(
g
(
x
))
,
其中
n
p1
(g(x))=
p1
(x),则
p2
(g(x))
p2
(x)。这些考虑意味着
g(x)是p
2
的对抗性示例[28],它欺骗了网络p
2
,但没有欺骗网络
p
1
。因此,为了防止深度网络相互崩溃,我们建议通过最小化
p2
(x)和
p1
(g2
(
x))之间(或
p1
(x)和p2
(g1(x))之间)的交叉熵来训练网络p1(或
p2)以抵抗p2的对抗性示例g2(x)(或p1
的
g1
(x)),
即,
研究了利用人工生成的实例进行图像识别的方法。它们可以作为
正则化技术来平滑输出[32],或者创建负示例来收紧决策边界[23,
33]。现在,它们被用来使网络变得不同。为了在句子中总结具有视
图差异约束的协同训练,我们希望模型在
D
上具有
相同的
预测,但当
它们暴露于对抗性攻击时会产生
不同的
通过最小化Eq. 5在
D
上,我们
鼓励模型生成互补的表示,每个都能抵抗另一个的对抗性示例。
2.3
训练DCT
在深度协同训练中,目标函数的形式为
L
=
E
(
x
,
y
)
∈S
L
sup
(x
,
y)+ λ
cot
E
x
∈U
L
cot
(x)+ λ
dif
E
x
∈D
L
dif
( x )
(
6)
,其线性组合等式(1)。3,等式4和方程式 5的超参数
λ
cot
和
λ
dif
.
我们在算法1中提出了训练循环的一次迭代。完整的训练过程使用
具有降低的学习速率的梯度下降重复算法1
注意,在DCT训练循环的每次迭代中,两个神经网络接收不同的
监督数据。这是通过向它们提供不同时间顺序的监督数据来增加它们
之间的差异。考虑两个网络的数据由两个数据流
s
和
s
提供。来自
s
的
每个数据
d
和来自s
的每个数据
d具有[
ds
,
du
]的形式,其中
ds
和
du
分别
表示
一批监督数据和非监督数据。我们称(
s
,
s
)
为一束数据流
,如果它
们
的
du
相同,且
ds
的
大小相同。算法1使用一束数据流向两个网络提供
数据。使用数据流束的想法对于可扩展的多视图深度协同训练很重
要,我们将在以下小节中介绍