SpectralNormalization谱归一化

本文主要介绍谱归一化这项技术，详细论文参考下面的链接。

Spectral Normalization For GANs​ arxiv.org

本文主要对论文中的基础知识和遗漏的细节做出补充，以便于更好地理解谱归一化。部分内容参考并整合了如下两篇博客：

Spectral Normalization Explained​ christiancosgrove.com
GAN 的谱归一化(Spectral Norm)和矩阵的奇异值分解(Singular Value Decompostion)​ kaiz.xyz

Lipschitz continuity

在 GAN 中，假设我们有一个判别器

SVD 分解

（上图来自：奇异值分解(SVD)原理与在降维中的应用 &＃8211; 刘建平Pinard &＃8211; 博客园）

由于 U 和 V 都是单位正交基，因此可以把矩阵乘以向量分成三步：旋转，拉伸，旋转。一前一后的两步旋转不改变向量的模长，唯一改变向量模长的是中间的拉伸，即与