AutoEncoder(自动编码器)

自动编码器属于神经网络的一种&＃xff0c;与传统的神经网络不同的是&＃xff0c;自动编码器给定的是无标签数据&＃xff0c;属于非监督学习算法。

传统神经网络结构&＃xff1a;

自动编码的过程是一个自动寻找主要特征的过程&＃xff0c;例如PCA&＃xff0c;判定该特征是否能最有效的表示原输入的依据是&＃xff0c;该特征通过解码得到的数据与原输入数据的误差尽可能的小。

自动编码器结构&＃xff1a;

网络结构图&＃xff1a;

对每一级自动编码器的训练同样采用的是误差的反向传播及梯度下降。

深度自动编码器结构

训练过程

自动编码器存在一个encoder和decoder&＃xff0c;encoder通过对输入进行编码得到一个code&＃xff0c;对该code进行解码(得到的数据与输入数据维度相同)。

自动编码器采用逐层训练的方式&＃xff0c;下一层训练的输入来自于上一层的code&＃xff0c;每一层训练完成&＃xff0c;该层的decoder不再使用。