emd实现信息隐藏_【读书笔记】深入理解TensorFlow架构设计与实现原理（五）

首先一如既往地是我们的约定环节&＃xff1a;

• MCMC&＃xff1a;Markov Chain Monte Carlo&＃xff0c;马尔可夫蒙特卡洛算法&＃xff1b;
• VAE&＃xff1a;Variational AutoEncoder&＃xff0c;变分自编码器&＃xff1b;

第10章 GAN模型

机器学习和深度学习领域不仅有判别模型&＃xff0c;而且有生成模型&＃xff0c;获得每个标签所对应的数据分布&＃xff0c;GAN&＃xff08;Generative Adversarial Network&＃xff09;即是这样一种判别模型&＃xff0c;利用深度学习强大的非线性拟合能力模拟真实的数据分布。

10.1 原理、特点及应用

对条件概率

直接建模得到的模型就是判别模型&＃xff0c;对训练数据特征和标签的联合概率

建模而得到的模型就是生成模型。

思考&＃xff1a;这里的生成模型&＃xff0c;和NLP中&＃xff0c;利用深度学习模型生成的声学模型、语言模型对应的分布有什么关系&＃xff1f;NLP中使用的是生成模型吗&＃xff1f;

常用的生成模型有两大类&＃xff1a;基于显式概率密度函数的生成模型和基于隐式概率密度函数的生成模型。

• 基于显式概率密度函数的生成模型首先建立所需拟合的数据分布的概率密度函数&＃xff0c;然后用有限的样本不断训练该模型。假设该模型
  的目标优化函数为
  &＃xff0c;最优参数为
  。当该目标优化函数可解时&＃xff0c;直接用优化算法求解该模型的最优参数&＃xff1b;
• 当它不可解时&＃xff0c;需要用近似的方法得到上述模型的最优参数。变分近似&＃xff08;Variational Approximations&＃xff09;和马尔可夫蒙特卡洛&＃xff08;Markov Chain Monte Carlo&＃xff0c;简称MCMC&＃xff09;变分近似中&＃xff0c;我们首先得到原始目标优化函数的一个可解的下限函数&＃xff0c;然后通过求解该下限函数的最大值间接得到原始目标优化函数的最大值&＃xff1b;

不同于基于显式概率密度函数的生成模型&＃xff0c;基于隐式概率密度函数的生成模型可以通过直接采样的方式训练模型参数&＃xff0c;而不需要提前对真实分布建立模型。而GAN是一种全新的基于隐式概率密度函数的生成模型。

10.1.1 原理

由两个子墨性——生成器和判别器组成。G的输入为随机噪声向量&＃xff0c;输出为与真实数据维度相同的数据。D的输入为真实数据或者G生成的数据&＃xff0c;输出为其对输入数据的分类。对抗过程可以表示为&＃xff1a;

实际中在每一次迭代中先训练k次判别器

&＃xff0c;再训练一次生成器

&＃xff0c;具体步骤如下&＃xff1a;

1. 训练判别器。从噪声输入向量z的分布
   中随机采用m个样本组成一组用于输入到生成器的批训练数据
   。计算判别器的损失函数在当前的批训练数据上的平均值&＃xff1a;
   &＃xff0c;然后求解
   对判别器参数
   的导数&＃xff0c;用梯度上升法&＃xff08;
   注意这里是梯度上升&＃xff1f;&＃xff09;更新&＃xff1b;
2. 重复步骤1. k次&＃xff1b;
3. 训练生成器。从p_z(z)中随机采样得到一组批训练数据
   &＃xff0c;计算生成器的损失函数在当前的批训练数据上的平均值
   &＃xff0c;然后求解
   对生成器参数
   的导数&＃xff0c;然后用梯度下降法更新
   。
4. 重复上述步骤直至收敛&＃xff1b;

判别器的优化目标&＃xff1a;

为求

的最小值&＃xff0c;将

看作一个未知量&＃xff0c;令

&＃xff0c;即

&＃xff0c;可得出

为最优解。当

时&＃xff0c;目标函数可以进一步表示为

这里的

表示Jensen-Shanon散度&＃xff0c;为了解决KL散度的非对称问题&＃xff0c;但是和KL共同的问题在于两个分布距离较远时表达不佳&＃xff0c;JS散度在距离较远时为常数&＃xff0c;而KL散度无意义。

当散度下降时&＃xff0c;

逼近真实数据概率分布。

10.1.2 特点

GAN模型可以逼近任何分布&＃xff0c;适合生成非结构化高维数据。

• 和VAE相比&＃xff0c;GAN模型没有引入近似条件和额外假设&＃xff0c;因此能够保证生成的效果更好&＃xff0c;通常比VAE生成的图像更加清晰&＃xff08;VAE生成图像模糊好像是业界的共识&＃xff09;&＃xff1b;
• 与MCMC相比&＃xff0c;GAN的模型驯良不依赖MCMC&＃xff0c;计算复杂度不高&＃xff0c;训练速度较快&＃xff0c;生成数据维度更高&＃xff1b;
• 以FVBN&＃xff08;Fully visible belief networks&＃xff0c;比如WaveNet也是基于此模型&＃xff09;为代表的生成模型必须串行地生成数据在各个维度上的值&＃xff0c;计算速度受限&＃xff0c;而GAN模型的训练和推理计算都很容易并行化&＃xff0c;从而能够充分利用GPU等高性能计算设备加速。

GAN的缺点&＃xff1a;

• 在目标函数中&＃xff0c;当生成器生成的数据和真实的数据的分布之间没有交集时&＃xff0c;JS散度为常数&＃xff0c;此时如果判别器也为最优&＃xff0c;就会出现梯度消失现象&＃xff0c;继而难以根据目标函数更新生成器模型的参数&＃xff1b;
• 由于灵活性太高&＃xff0c;GAN经常会出现模式崩溃&＃xff08;mode collapse&＃xff09;问题&＃xff0c;即生成器和判别器的参数优化过程停滞不前、无法收敛的问题。

通过WGAN、minibatch GAN等改进解决这些问题。

10.1.3 应用

近年来利用GAN强大的数据生成能力获得更好的训练结果&＃xff0c;也开始应用于自然语言处理等领域。

• 图像翻译&＃xff1a;包含两个方面&＃xff0c;1&＃xff09;抽取文字描述的语义特征&＃xff0c;2&＃xff09;根据语义特征生成一副相应的图像。在这样的GAN模型中&＃xff0c;生成器的输入包括噪声向量和文字的编码向量&＃xff0c;这两个向量同时输入到生成器中用于图像生成&＃xff0c;使得图像语义与对应文字的语义产生关联。判别器不仅需要判断图像看起来是否真实&＃xff0c;而且需要判断图像是否与文字编码向量互相对应&＃xff1b;
• 图像编辑&＃xff1a;对图像中指定的某些内容进行语义上的修改。在GAN模型中&＃xff0c;通过改变生成器输入向量中的某些维度的值来控制生成器输出图像的局部语义信息。为了使用户可以编辑模型的隐藏向量&＃xff0c;进而控制图像的语义信息&＃xff0c;我们通常需要将编码器与GAN模型结合使用。在训练完GAN模型后&＃xff0c;再训练两个编码器&＃xff0c;分别将待编辑的图像转换为一个噪声向量和一个隐藏向量。隐藏向量上的每一个维度的值都表示一些高级语义特性。将这两个向量同时作为GAN生成器的输入&＃xff0c;就可以通过修改隐藏向量来控制GAN模型生成器所生成图像的某些局部语义信息&＃xff1b;
• 图像超分辨率&＃xff1a;高维空间中数据分布非常稀疏&＃xff0c;仅靠MSE训练出的模型生成的图像在某些细节处看起来不太真实。GAN对真实数据有更好地拟合&＃xff1b;
• 半监督学习&＃xff1a;同时利用带标签的数据和不带标签的数据进行模型训练的方法。利用GAN产生逼近真实的数据&＃xff0c;将不带标签的数据看作第
  类&＃xff0c;并将其作为训练数据的一部分。训练数据得到了扩充&＃xff1b;
• 基于GAN的强化学习&＃xff1a;传统的强化学习大多是单任务系统&＃xff0c;智能体只能通过奖励函数一直执行一个单一的、不变的任务&＃xff0c;通过GAN为智能体持续地生成难度适宜的多个目标任务。

10.2 GAN模型的改进

GAN的主要问题&＃xff1a;生成图像的分辨率不高、学习特征不可控、训练过程不稳定等。

10.2.1 CGAN模型

原始的GAN框架不需要对数据分布做假设&＃xff0c;而直接采用多层神经网络模拟数据分布。这种训练方式太过自由&＃xff0c;在实际中数据表前或其他辅助数据可被用作训练GAN的约束条件。CGAN在判别器和生成器的输入中分别引入一个条件向量

&＃xff0c;用于约束生成图像的某些属性。最优化问题可以从之前的输出的分布改写为新的条件分布。

以手写字体为例&＃xff0c;条件向量可以是数字的值、笔迹的宽度等。

10.2.2 LAPGAN模型

LAPGAN&＃xff08;Laplacian Pyramid GAN&＃xff0c;拉普拉斯金字塔生成式对抗网络&＃xff0c;和高斯金字塔配合使用&＃xff0c;高斯金字塔通过高斯滤波和降采样获得不同尺度的图像金字塔&＃xff0c;拉普拉斯金字塔表示上采样/高斯滤波后与上一级图像的差&＃xff0c;表示降采样过程中丢失的高频信息&＃xff0c;由拉普拉斯金字塔可以重构出原始图像&＃xff09;模型。

LAPGAN的原理是在每个尺度下都有一个生成器&＃xff0c;用于生成该尺度下的拉普拉斯金字塔图像。例如&＃xff0c;在

尺度下&＃xff0c;噪声向量

输入到生成器

中得到生成图像

。在

尺度下&＃xff0c;生成器

的输入为噪声向量

&＃xff0c;以及

升采样后的图像

&＃xff08;与CGAN类似&＃xff0c;该图像作为条件变量引导

的输出&＃xff09;&＃xff0c;根据拉普拉斯金字塔图像和高斯金字塔图像之间的关系&＃xff0c;

的输出与

相加后即可得到

尺度下的生成图像

。以此类推直到生成最终图像

&＃xff08;

10.2.3 DCGAN模型

&＃xff08;注意&＃xff01;这里的C不是CGAN里的Conditional&＃xff0c;而是深度卷积的意思&＃xff09;DCGAN模型的整体架构与原始的GAN模型一致&＃xff0c;区别在于Generator和Discriminator的具体实现方面的细节&＃xff1a;

1. 判别器中的池化层被逮捕长的卷积层取代。这是的CNN能够自动学喜特征途的降采样模式&＃xff0c;而非按照固定的最大池化或平均池化做降采样。同时这种降采样方式也使得整个DCGAN模型变为完全可微的&＃xff08;啥意思&＃xff1f;应该是指可以全局进行反向传播梯度计算&＃xff0c;而LAPGAN的降采样方式将不同生成器的梯度更新割裂开来&＃xff0c;无法构成端到端应用&＃xff09;&＃xff0c;对于训练的稳定性有好处&＃xff1b;
2. Discriminator&＃xff08;除了输出层之外&＃xff09;和Generator&＃xff08;除了输入层之外&＃xff09;的卷积层都经过BN层做归一化&＃xff0c;基于BN层的归一化使得训练精度对于参数初始化不敏感&＃xff0c;并且能够加快训练速度

10.2.4 InfoGAN模型

在InfoGAN模型中&＃xff0c;在损失函数中加入了输入语义特征向量

和输出图像之间的互信息的相反数&＃xff0c;互信息越打&＃xff0c;相关性越高&＃xff0c;损失越低。然而直接优化新的损失函数意味着需要对隐变量

的后验概率分布

进行采样&＃xff0c;InfoGAN中引入变分法&＃xff0c;采用一个辅助分布

来近似后验概率分布&＃xff0c;简化了计算。实际中可以采用深度学习模型来表示

。

10.2.5 LSGAN模型

上述几种GAN模型目标函数大部分都是基于sigmoid交叉熵&＃xff0c;会导致梯度消失的问题&＃xff0c;当生成器G生成的数据处于判别器D的分类面正确的一侧&＃xff0c;但又离真实数据分布比较远时&＃xff0c;很难通过该目标函数计算相应的梯度更新G的模型参数&＃xff0c;难以继续优化G。LSGAN&＃xff08;Least Squares GAN&＃xff09;是基于最小二乘法的目标函数&＃xff0c;分别优化生成器和判别器的GAN模型。

基于sigmoid交叉熵的目标函数容易出现饱和&＃xff0c;从而导致无法继续训练。实验效果表明LSGAN模型生成的图像分辨率更高&＃xff0c;训练过程更加稳定。

10.2.6 WGAN模型

将JS散度替换为EMD&＃xff08;Earth Mover&＃39;s Distance&＃xff0c;也就是Wasserstein距离&＃xff09;来定义生成数据和真实数据分布之间的差异&＃xff0c;相比于JS散度&＃xff0c;它可以做到处处连续且可微。

10.3 最佳实践

参见这里。

10.4 小结

GAN模型接住了深度学习模型对数据分布强大的建模能力&＃xff0c;使得生成逼真的图像等高维数据成为可能。