一、
1、生成模型(G)+判别模型(D)
2、输入的只有真实样本集(无标签)
3、单独交替迭代训练。在训练生成网络的时候,我们需要联合判别网络一起才能达到训练的目的,对于生成网络的训练其实是对生成-判别网络串接的训练。
a.生成了假样本,把这些假样本的标签都设置为1,也就是认为这些假样本在生成网络训练的时候是真样本(迷惑判别器的目的,也才能使得生成的假样本逐渐逼近为正样本);
b.在对于生成网络的训练,我们有了样本集(只有假样本集,没有真样本集),有了对应的label(全为1)。(在训练这个串接的网络的时候,一个很重要的操作就是不要判别网络的参数发生变化,也就是不让它参数发生更新,只是把误差一直传,传到生成网络那块后更新生成网络的参数。这样就完成了生成网络的训练了)
4、在完成生成网络训练后,又有了新的真假样本集(其实是新的假样本集),重复上述过程了。把这个过程称作为单独交替训练;
5、定义一个迭代次数,交替迭代到一定次数后停止即可。
二、
公式代表的是最大最小优化,先拆解优化判别网络D,再优化G。
优化D:
第二项改成1-D(G(z)),两者合起来就是越大越好。
优化G:
同样在优化G的时候,和真样本无关,所以
第一项直接却掉了,只有假样本。这个时候是希望假样本的标签是1的,所以是D(G(z))越大越好,但是呢为了统一成1-D(G(z))的形式,那么只能是最小化1-D(G(z))。