生成式对抗网络模型综述

摘要

生成式对抗网络模型(GAN)是基于深度学习的一种强大的生成模型，可以应用于计算机视觉、自然语言处理、半监督学习等重要领域。生成式对抗网络最最直接的应用是数据的生成，而数据质量的好坏则是评判GAN成功与否的关键。本文介绍了GAN最初被提出时的基本思想，阐述了其一步步演化、改进的动机和基本思想以及原理，从基于模型改进的角度介绍了WGAN，WGAN-GP，LSGAN，f-GAN，LS-GAN以及GLS-GAN，EBGAN，BEGAN等GAN发展过程中较为重要的改进模型，以及从应用创新角度介绍了CGAN，InfoGAN，Pix2Pix，CycleGAN，StarGAN等较为常用或热门的GAN的应用方法。此外，本文还介绍了GAN的几种应用，包括图像翻译，语言翻译以及基于GAN的辅助驾驶等。最后本文还介绍了GAN的主要发展和研究方向，提出了GAN现在以及将来发展的热点与难点等，如如何提高图片的质量，避免模式崩塌等。

关键词

深度学习  生成式对抗网络  卷积神经网络  Wasserstein距离  对抗训练

deep learning, generate adversial network, convolutionalneural network, Wasserstein Distance, adversial training

引言

近年来，人工智能与深度学习已经成为耳熟能详的名词。一般而言，深度学习模型可以分为判别式模型与生成式模型。由于反向传播（Back propagation, BP）、Dropout等算法的发明，判别式模型得到了迅速发展。然而，由于生成式模型建模较为困难，因此发展缓慢，直到近年来最成功的生成模型——生成式对抗网络的发明，这一领域才焕发新的生机。

生成式对抗网络（Generative adversarial network, GAN）自Ian Goodfellow[1]等人提出后，就越来越受到学术界和工业界的重视。而随着GAN在理论与模型上的高速发展，它在计算机视觉、自然语言处理、人机交互等领域有着越来越深入的应用，并不断向着其它领域继续延伸。因此，本文将对GAN的理论与其应用做一个总结与介绍。

GAN的基本思想

GAN受博弈论中的零和博弈启发，将生成问题视作判别器和生成器这两个网络的对抗和博弈：生成器从给定噪声中（一般是指均匀分布或者正态分布）产生合成数据，判别器分辨生成器的的输出和真实数据。前者试图产生更接近真实的数据，相应地，后者试图更完美地分辨真实数据与生成数据。由此，两个网络在对抗中进步，在进步后继续对抗，由生成式网络得的数据也就越来越完美，逼近真实数据，从而可以生成想要得到的数据（图片、序列、视频等）。

如果将真实数据和生成数据服从两个分布，那么如图所示

蓝色分布为生成分布，绿色分布为真实分布，D为判别器，GAN从概率分布的角度来看，就是通过D来将生成分布推向真实分布，紧接着再优化D，直至到达图1(d)所示，到达Nash均衡点，从而生成分布与真实分布重叠，生成极为接近真实分布的数据。

GAN的基本模型

设z为随机噪声，x为真实数据，生成式网络和判别式网络可以分别用G和D表示，其中D可以看作一个二分类器，那么采用交叉熵表示，可以写作:

GAN与Jensen-Shannon散度

对于原目标函数，在生成器G固定参数时，可以得到最优的判别器D。对于一个具体的样本，它可能来自真实分布也可能来自生成分布，因此它对判别器损失函数的贡献是：

KL(P1|P2=Ex~P1logP1(x)P2(x)

JS(P1|P2=12KL(P1|P1+P22+12KL(P2||P1+P22)

显然，(1)式与JS散度形式相似，可以转换成：

生成器与判别器的网络

Ian在2014年提出的朴素GAN在生成器和判别器在结构上是通过以多层全连接网络为主体的多层感知机(Multi-layer Perceptron, MLP) 实现的，然而其调参难度较大，训练失败相当常见，生成图片质量也相当不佳，尤其是对较复杂的数据集而言。

由于卷积神经网络(Convolutional neural network, CNN)比MLP有更强的拟合与表达能力，并在判别式模型中取得了很大的成果。因此，Alec等人[2]将CNN引入生成器和判别器，称作深度卷积对抗神经网络（Deep Convolutional GAN, DCGAN）。图2为DCGAN生成器结构图。本质上，DCGAN是在GAN的基础上提出了一种训练架构，并对其做了训练指导，比如几乎完全用卷积层取代了全连接层，去掉池化层，采用批标准化(Batch Normalization, BN)等技术，将判别模型的发展成果引入到了生成模型中。此外，[2]还并强调了隐藏层分析和可视化计数对GAN训练的重要性和指导作用。

DCGAN虽然没有带来理论上以及GAN上的解释性，但是其强大的图片生成效果吸引了更多的研究者关注GAN，证明了其可行性并提供了经验，给后来的研究者提供了神经网络结构的参考。此外，DCGAN的网络结构也可以作为基础架构，用以评价不同目标函数的GAN，让不同的GAN得以进行优劣比较。DCGAN的出现极大增强了GAN的数据生成质量。而如何提高生成数据的质量（如生成图片的质量）也是如今GAN研究的热门话题。

然而，GAN自从2014年提出以来，就存在着训练困难、不易收敛、生成器和判别器的loss无法指示训练进程、生成样本缺乏多样性等问题。从那时起，很多研究人员就在尝试解决，并提出了改进方案，切实解决了部分问题，如生成器梯度消失导致的训练困难。当然也还有很多问题亟待解决，如生成样本的评价指标问题。本文将简单阐述几个较为突出的的改进措施。

WGAN

与前文的DCGAN不同，WGAN(Wasserstein GAN)并不是从判别器与生成器的网络构架上去进行改进，而是从目标函数的角度出发来提高模型的表现[3]。Martin Arjovsky等人先阐述了朴素GAN因生成器梯度消失而训练失败的原因[4]：他们认为，朴素GAN的目标函数在本质上可以等价于优化真实分布与生成分布的Jensen-Shannon散度。而根据Jensen-Shannon散度的特性，当两个分布间互不重叠时，其值会趋向于一个常数，这也就是梯度消失的原因。此外，Martin Arjovsky等人认为，当真实分布与生成分布是高维空间上的低维流形时，两者重叠部分的测度为0的概率为1，这也就是朴素GAN调参困难且训练容易失败的原因之一。

针对这种现象，Martin Arjovsky等人利用Wasserstein-1距离（又称Earth Mover距离）来替代朴素GAN所代表的Jensen-Shannon散度[3]。Wasserstein距离是从最优运输理论中的Kantorovich问题衍生而来的，可以如下定义真实分布与生成分布的Wasserstein-1距离：

其中pr,pg分别为真实分布与生成分布，γ为pr,pg分的联合分布。相较于Jensen-Shannon散度，Wasserstein-1距离的优点在于，即使pr,pg互不重叠，Wasserstein距离依旧可以清楚地反应出两个分布的距离。为了与GAN相结合，将其转换成对偶形式:

WGAN—GP 

虽然WGAN在理论上解决了训练困难的问题，但它也有各种各样的缺点。在理论上，由于对函数（即判别器）存在Lipschitz-1约束，这个条件难以在神经网络模型中直接体现，所以作者使用了权重剪枝(clip) 来近似替代Lipschitz-1约束。显然在理论上，这两个条件并不等价，而且满足Lipschitz-1约束的情况多数不满足权重剪枝约束。而在实验上，很多人认为训练失败是由权重剪枝引起的，如图3。对此Ishaan Gulrajani提出了梯度带梯度惩罚的WGAN（WGAN with gradient penalty, WGAN-GP）[5]，将Lipschitz-1约束正则化，通过把约束写成目标函数的惩罚项，以近似Lipschitz-1约束条件。

因而，WGAN的目标函数可以写作

其中px是pr与pg之间的线性采样，即满足

WGAN-GP的贡献在于，它用正则化的形式表达了对判别器的约束，也为后来GAN的正则化模型做了启示。此外WGAN-GP基本从理论和实验上解决了梯度消失的问题，并且具有强大的稳定性，几乎不需要调参，即在大多数网络框架下训练成功率极高。

LSGAN

虽然WGAN和WGAN-GP已经基本解决了训练失败的问题，但是无论是训练过程还是是收敛速度都要比常规 GAN 更慢。受WGAN理论的启发，Mao 等人提出了最小二乘GAN (least square GAN, LSGAN)[6]。LSGAN的一个出发点是提高图片质量。它的主要想法是为判别器D提供平滑且非饱和梯度的损失函数。这里的非饱和梯度针对的是朴素GAN的对数损失函数。显然，x越大，对数损失函数越平滑，即梯度越小，这就导致对判别为真实数据的生成数据几乎不会有任何提高。针对于此，LSGAN的判别器目标函数如下：

这里a, b, c满足b − c = 1和b − a = 2。根据[6]，它等价于f散度中的散度x2，也即是说，LSGAN用散度x2取代了朴素GAN的Jensen-Shannon散度。

最后，LSGAN的优越性在于，它缓解了GAN训练时的不稳定，提高了生成数据的质量和多样性，也为后面的泛化模型f-GAN提供了思路。

 f-GAN

由于朴素GAN所代表的Jensen-Shannon散度和前文提到的LSGAN所代表的x2散度都属于散度的特例，那么自然而然地想到，其它f散度所代表的GAN是否能取得更好的效果。实际上，这些工作早已完成[7]，时间更是早过WGAN与LSGAN。甚至可以认为，是f-GAN开始了借由不同散度来代替Jensen-Shannon散度，从而启示了研究者借由不同的距离或散度来衡量真实分布与生成分布。首先衡量p(x), q(x)的f散度可以表示成如下形式：

其中下半连续映射f:R+→R，通过各种特定的函数f，可以得到不同的散度。其结果如表1所示：

其中vw是判别器的输出函数，gf是最后一层的激活函数，f*是f的共轭凸函数，以朴素GAN为例，当Dωx=11+exp-Vx,gfv=-log⁡(1+e-v)，时，上式即为朴素GAN的目标函数。

LS-GAN(损失敏感GAN)与GLS-GAN

与前文提到的LSGAN (least square GAN)不同，这里的LS-GAN是指Loss-Sensitive GAN，即损失敏感GAN。一般认为，GAN可以分为生成器G和判别器D。与之不同的是，针对判别器D，LS-GAN想要学习的是损失函数Lθ(x)，要求Lθ(x)在真实样本上尽可能小，在生成样本上尽可能大。由此，LS-GAN基于损失函数的目标函数为：

此处∆(x, zG )是来自约束假设Lθ(x) ≤ Lθ ( zG) − ∆(x,  zG)，表示真实的样本要与生成样本间隔∆(x,zG)的长度，如此LS-GAN就可以将Lθ用于提高距离真实样本较远的样本上，可以更合理的发挥LS-GAN的建模能力。

此外，为了证明LS-GAN的收敛性，还做了一个基本的假设：要求真实分布限定在Lipschitz 密度上，即真实分布的概率密度函数建立在紧集上，并且它是Lipschitz连续的。通俗地说，就是要求真实分布的概率密度函数不能变化的太快，概率密度的变化不能随着样本的变化而无限地增大。

最后，Qi等人还对LS-GAN做了推广，将其扩展为GLS-GAN(Generalized LS-GAN)。所谓的GLS-GAN，就是将损失函数Lθ的目标函数扩展为：

EBGAN

朴素GAN提出将二分类器作为判别器以判别真实数据和生成数据，并将生成数据“拉向”生成数据。然而自从WGAN抛弃了二分类器这个观点，取以函数fw代替，并不将之局限在[0,1]之后，很多改进模型也采取了类似的方法，并将之扩展开来。例如LS-GAN以损失函数Lθ(x)作为目标，要求Lθ(x)在真实样本上尽可能小，在生成样本尽可能大。

基于能量的GAN(Energy-based GAN, EBGAN)则将之具体化了。它将能量模型以及其相关理论引入GAN，以“能量”函数在概念上取代了二分类器，表示对真实数据赋予低能量，对生成数据赋予高能量。

首先，EBGAN给出了它的目标函数

LDx,z=Dx+[m-D(G(z))]+

其中[∙]+ = max{0,∙}，极大化LD的同时极小化LG。EBGAN的设计思想是，一方面减少真实数据的重构误差，另一方面，使得生成数据的重构误差趋近于m，即当D(G(z)) 时，改下为正，对LD的极小化产生贡献，反之D(G(z)) ≥ m，LD为0，会通过极小化LG，将D(G(z))拉向m。可以证明，当D=D*,G=G*到达Nash均衡时，生成数据分布等于真实数据分布，并且此时LD的期望即VD*,G*=x,z LDpdata(x)pz(z)dxdz=m。

此外在EBGAN中，对D的结构也做了改进。不再采用DCGAN对D的网络框架或者其相似结构，EBGAN对D的架构采用自动编码器的模式，模型架构如图所示

其中Enc，Dec是自编码器中的编码与解码操作。

最后，由于自编码器的特殊构造，EBGAN还针对LG做了特殊设计，即增加一个正则项fPT来避免模式崩溃(mode collapse)问题。设s∈Rs×N是一个batch的编码器(encoder)输出结果，fPT可以定义为

其思想很简单，利用一个批次的编码器输出结果计算余弦距离并求和取均值，若这一项越小，则两两向量越接近正交。从而解决模式崩溃问题，不会出现一样或者极其相似的图片数据。

BEGAN

以上的GAN在本质上的目标是让真实分布pr与生成分布pg尽量接近，大多数GAN之间可以解释成其区别在于衡量方式不同，比如朴素GAN的Jensen-Shannon散度，WGAN的Wasserstein距离，f-GANs的f散度等等。

特殊的是，边界平衡GAN(Boundary Equilibrium Generative Adversarial Networks, BEGAN)颠覆了这种思路，虽然它是基于WGAN与EBGAN上发展而来的。

首先，设D为判别函数，其结构采用上一节中EBGAN上的自编码器的模式，即

另外，设μ1,μ2为D(x)与D(G(z))的分布，其中x即为输入的样本图片，G(z)为生成图片，那么真实分布pr与生成分布pg之间的Wasserstein距离如下

设m1,m2为μ1,μ2的期望，根据Jensen不等式，有

要计算Wasserstein下界，就要最大化|m1 − m2|，显然它至少有两个解，极大化m1，极小化m2或者极大化m2，极小化m1，此处取后一种，即可从优化Wasserstein下界的角度看待GAN下的优化，即

上式均取极小值，前者LD优化θD，极大化m2，极小化m1，由此计算Wasserstein下界；后者LG优化θG，极小化m2，由此优化Wasserstein下界。

当上述的GAN成功训练到达均衡点，显然有：

当真实分布pr与生成分布pg相等时，显然满足上式。但是在训练时，并不是两者完全重叠最佳，LS-GAN在设计时就有这种思想。同样，BEGAN在设计时选择通过超参γ∈[0,1]来放宽均衡点

即生成样本判别损失的期望与真实样本判别损失的期望值之比。而此处之所以让判别器设计成自编码其的模式，是因为判别器有两个作用：1.对真实图片自编码；2. 区分生成图片与真实图片。超参γ的特殊之处在于，它能平衡这两个目标：γ值过低会导致图片多样性较差，因为判别器太过关注对真实图片自编码；反之，图片视觉质量则会不佳。

由此，可以BEGAN的目标函数如下

其中kt初始化为0，λk为学习率(learning rate)。

此外，BEGAN的另一个卓越效果是，它的网络结构极为简单，不需要ReLU，minbatch，Batch Normalization等非线性操作，但其图片质量远远超过与其结构相近的EBGAN。

改进模型的总结

cGAN

如今在应用领域，绝大多数的数据是多标签的数据，而如何生成指定标签的数据就是条件GAN(conditional GAN，cGAN)在GAN模型上做的贡献。在基本的GAN模型中，生成器是通过输入一串满足某个分布的随机数来实现的（一般以均匀分布和高斯分布为主下，当然，改进后的GAN也有不以随机数作为生成器的输入值的，如CycleGAN等，此处暂不讨论），而在CGAN中，不仅要输入随机数，还需要将之与标签类别做拼接(concat，一般要将标签转换成如one-hot或其它的tensor)，再将其输入生成器生成所需要的数据。此外，对判别器，也需要将真实数据或生成数据与对应的标签类别做拼接，再输入判别器的神经网络进行识别和判断，其目标函数如下：

 InfoGAN

自cGAN被提出后，针对cGAN的后续工作，也有很多学者利用cGAN做了应用或者改进。如拉普拉斯GAN (Laplacian Generative Adversarial Networks, LAPGAN)结合了GAN与cGAN的原理，利用一个串联的网络，以上一级生成的图片作为条件变量，构成拉普拉斯金字塔(laplacian pyramid)，从而生成从粗糙到精密的图片。

InfoGAN(MutualInformation)本质上也可以看作是一种cGAN。从出发点看，InfoGAN是基于朴素GAN改进的。它将原先生成器上输入的z进行分解，除了原先的噪声z以外，还分解出一个隐含编码c。其中c除了可以表示类别以外，还可以包含多种变量。以MNIST数据集为例，还可以表示诸如光照方向，字体的倾斜角度，笔画粗细等。InfoGAN的基本思想是，如果这个c能解释生成出来的G(z,c)，那么c应该与G(z,c)由高度的相关性。在InfoGAN中，可以表示为两者的互信息，目标函数可以写作

InfoGAN的重要意义在于，它通过从噪声z中拆分出结构化的隐含编码c的方法，使得生成过程具有一定程度的可控性，生成结果也具备了一定的可解释性。

Pix2Pix

图像作为一种信息媒介，可以有很多种表达方式，比如灰度图、彩色图、素描图、梯度图等。图像翻译就是指这些图像的转换，比如已知灰度图，进而生成一张彩色照片。多年以来，这些任务都需要用不同的模型去生成。在GAN以及CGAN出现后，这些任务成功地可以用同一种框架来解决，即基于CGAN的变体——Pix2Pix。

Pix2Pix将生成器看作是一种映射，即将图片映射成另一张需要的图片，所以才将该算法取名为Pix2Pix，表示map pixels to pixels，即像素到像素的映射。这种观点也给了后来研究者改进的想法和启发。

因此，生成器输入除随机数z以外，将图片x（如灰度图，素描图等）作为条件进行拼接，输出的是转换后的图片（如照片）。而判别器输入的是转换后的图片或真实照片，特别之处在于，文章发现，判别器也将生成器输入的图片x作为条件进行拼接，会极大提高实验的结果，其结构图如下所示（此处结构图隐去了生成器的随机数z）

CycleGAN

然而，Pix2Pix致命的缺点在于，Pix2Pix的训练需要相互配对的图片x与y，然而，这类数据是极度缺乏的，也为极大限制了Pix2Pix的应用。

对此，CycleGAN提出了不需要配对的数据的图像翻译方法。

设X，Y为两类图像，px，py为两类图像间的相互映射。CycleGAN由两对生成器和判别器组成，分别为GX→Y,DY与GY→X,DX，若以wgan为基础，那么对Y类图像，有

其中λc为常数。

CycleGAN的成功之处在于，他们用如此简单的模型，成功解决了图像翻译领域面临的数据缺乏问题。不需要配对的两个场景的相互映射，实现了图像间的相互转换，是图像翻译领域的又一重大突破。

StarGAN

由上所述，Pix2Pix解决了有配对的图像翻译问题，CycleGAN解决了无配对的图像翻译问题，然而无论是Pix2Pix又或者是Cycle，他们对图像翻译而言，都是一对一的，也即是一类图像对一类图像。然而涉及多类图像之间的转换，就需要CycleGAN进行一对一逐个训练，如图6(a)所示，显然这样的行为是极为低效的。

针对这种困境，StarGAN解决了这类问题。如下图所示，StarGAN希望能够通过一个生成器解决所有跨域类别问题。

（a）D学会区分真实图像和生成图像，并将真实图像分类到其对应的域。因此，对D而言，实际上是由两部分组成的，即D:x→{Dsrcx;Dcls(x)}；

（b）拼接目标标签与输入图片，将之输入G，并生成相应的图像；

（c）在给定原始域标签的情况下，G要尽量能重建原始图像。这与CycleGAN的循环一致性一脉相承；

针对生成器，除了Ladv对应的GAN的结构外，还要求判别器能将生成图像分类到相应的域

其中λcls,λrec均为常数。

StarGAN作为CycleGAN的推广，将两两映射变成了多领域之间的映射，是图像翻译领域的又一重大突破。此外，StarGAN还可以通过实现多数据集之间的联合训练（比如将拥有肤色，年龄等标签的CelebA数据集和拥有生气、害怕等表情标签的RaFD数据集），将之训练到同一个模型，完成了模型的压缩，是图像翻译领域的一大突破。

GAN 的应用

图像领域

例如，CycleGAN就是GAN在图像领域上的一种重要应用模型。CycleGAN以无需配对的两类图像为基础，可以通过输入一张哭脸将其转变为笑脸。StarGAN是CycleGAN的进一步扩展，一个类别与一个类别对应就要训练一次太过麻烦，我们不但需要把笑脸转化为哭脸，还需要把它转化为惊讶，沮丧等多种表情，而StarGAN实现了这种功能。

此外，很多的GAN技术也有将文字描述转换成图片，根据轮廓图像生成接近真实的照片等等功能。

视频领域

Mathieu[10]等人首先将GAN训练应用于视频预测，即生成器根据前面一系列帧生成视频最后一帧，判别器对该帧进行判断。除最后一帧外的所有帧都是真实的图片，这样的好处是判别器能有效地利用时间维度的信息，同时也有助于使生成的帧与前面的所有帧保持一致。实验结果表明，通过对抗训练生成的帧比其他算法更加清晰。

此外，Vondrick[11]等人在视频领域也取得了巨大进展，他们能生成32帧分辨率为64×64 的逼真视频，描绘的内容包括高尔夫球场、沙滩、火车站以及新生儿。经过测试，20%的标记员无法识别这些视频的真伪。

人机交互领域

Santana等人实现了利用GAN 的辅助自动驾驶。首先，生成与真实交通场景图像分布一致的图像，然后，训练一个基于循环神经网络的转移模型来预测下一个交通场景。

另外，GAN还可以用于对抗神经机器翻译，将神经机器翻译（neural machine translation, NMT）作为GAN 的生成器，采用策略梯度方法训练判别器，通过最小化人类翻译和神经机器翻译的差别生成高质量的翻译。

总结

参考文献：

[1] Goodfellow I J, Pouget-Abadie J, Mirza M, et al. Generative adversarial nets[C]//: International Conference on Neural Information Processing Systems, 2014.