GAN家族原理和优缺点详解

需积分: 20 15 下载量 82 浏览量 更新于2024-09-11 收藏 917KB PPTX 举报
GANs基础调研(二) 本文总结了GAN、DCGAN、WGAN、CGAN四种生成对抗网络的原理和优缺点。GAN是基于-game theory的生成模型,通过构建两个网络,一个生成网络G,一个判别网络D,来学习真实数据分布。DCGAN是对GAN的改进,使用卷积神经网络,去掉pooling层和全连接隐藏层,使用BatchNormalization和LeakyRELU激活函数,提高了生成网络的学习效果。WGAN使用Wasserstein距离来衡量生成数据和真实数据之间的距离,解决了GAN中的模式崩溃问题。CGAN是 Conditional GAN,通过引入条件信息来控制生成数据的特征。 1.GAN GAN的原理是基于game theory的生成模型。它通过构建两个网络,一个生成网络G,一个判别网络D,来学习真实数据分布。G网络的目的是生成与真实数据相似的数据,而D网络的目的是判别生成数据是否为真实数据。通过训练G网络和D网络,GAN可以学习到真实数据分布的参数。 GAN的好处是: * GAN是一个隐式的建立学习密度函数过程,减少了人为的建模。 * GAN的生成过程不需要繁琐的采样序列,可以直接进行新样本的采样和推断,提高了新样本的生成效率。 然而,GAN也存在一些缺点: * GAN容易找到局部最优点,而不是全局最优点。 * 判别器训练得太好,生成器梯度消失,生成器loss降不下去;判别器训练得不好,生成器梯度不准,四处乱跑,所以,根本无法收敛很难稳定训练。 2.DCGAN DCGAN是对GAN的改进,它使用卷积神经网络,去掉pooling层和全连接隐藏层,使用BatchNormalization和LeakyRELU激活函数。DCGAN的原理是:将噪声z输入G网络,G网络生成fake image,fake image和真实数据一起输入D网络,D网络输出该数据为real的可能性。 DCGAN的好处是: * DCGAN将卷积网络引入到生成式模型当中来无无督督的训练,利用卷积网络强大的特征提取能力来提高生成网络的学习效果。 * 同样大小的数据集的分类任务情况下,比监督训练的模型较大。 然而,DCGAN也存在一些缺点: * DCGAN需要大量的计算资源和数据集。 * DCGAN的训练过程中需要调整多个超参数。 3.WGAN WGAN使用Wasserstein距离来衡量生成数据和真实数据之间的距离,解决了GAN中的模式崩溃问题。WGAN的原理是:将生成数据和真实数据映射到同一个空间中,然后计算两者的Wasserstein距离。WGAN的优点是: * WGAN可以解决GAN中的模式崩溃问题。 * WGAN可以生成高质量的数据。 然而,WGAN也存在一些缺点: * WGAN需要计算Wasserstein距离,这需要大量的计算资源。 * WGAN的训练过程中需要调整多个超参数。 4.CGAN CGAN是Conditional GAN,通过引入条件信息来控制生成数据的特征。CGAN的原理是:将条件信息输入G网络,G网络生成fake image,fake image和真实数据一起输入D网络,D网络输出该数据为real的可能性。 CGAN的好处是: * CGAN可以生成具有特定特征的数据。 * CGAN可以控制生成数据的特征。 然而,CGAN也存在一些缺点: * CGAN需要大量的计算资源和数据集。 * CGAN的训练过程中需要调整多个超参数。 GAN、DCGAN、WGAN、CGAN四种生成对抗网络都有其优缺点,选择合适的模型需要根据具体的应用场景和数据特点。