深度学习caffe手写字体识别例程（七）——LeNet5网络模型配图详解

理解卷积和子采样 转载自&＃xff1a;https://blog.csdn.net/ljfwz153076024/article/details/94356572

卷积过程&＃xff1a;用一个可训练的滤波器fx去卷积一个输入的图像&＃xff08;第一阶段是输入的图像&＃xff0c;后面的阶段就是卷积特征map&＃xff09;&＃xff0c;然后加一个偏置bx&＃xff0c;得到卷积层Cx;
子采样过程&＃xff1a;邻域四个像素求和变为一个像素&＃xff0c;然后通过标量W加权&＃xff0c;再增加偏置b&＃xff0c;然后通过一个sigmoid激活函数&＃xff0c;产生一个缩小四倍的特征映射图Sx&＃43;1

LeNet-5出自论文Gradient-Based Learning Applied to Document Recognition&＃xff0c;是一种用于手写体字符识别的非常高效的卷积神经网络。Lenet-5是Yann LeCun提出的&＃xff0c;对MNIST数据集的分识别准确度可达99.2%。下面简要介绍下每层的结构&＃xff1a;

LeNet-5共有7层&＃xff0c;不包含输入&＃xff0c;每层都包含可训练参数&＃xff1b;每个层有多个Feature Map&＃xff0c;每个FeatureMap通过一种卷积滤波器提取输入的一种特征&＃xff0c;然后每个FeatureMap有多个神经元。

1、INPUT层-输入层
首先是数据 INPUT 层&＃xff0c;输入图像的尺寸统一归一化为32*32。
注意&＃xff1a;本层不算LeNet-5的网络结构&＃xff0c;传统上&＃xff0c;不将输入层视为网络层次结构之一。

2、C1层-卷积层
输入图片&＃xff1a;32*32

卷积核大小&＃xff1a;5*5

卷积核种类&＃xff1a;6

输出featuremap大小&＃xff1a;28*28 &＃xff08;32-5&＃43;1&＃xff09;&＃61;28

神经元数量&＃xff1a;28286

可训练参数&＃xff1a;&＃xff08;5 * 5&＃43;1) * 6&＃xff08;每个滤波器5 * 5&＃61;25个unit参数和一个bias参数&＃xff0c;一共6个滤波器&＃xff09;

连接数&＃xff1a;&＃xff08;5 * 5&＃43;1&＃xff09;* 6 * 28 * 28&＃61;122304

详细说明&＃xff1a;对输入图像进行第一次卷积运算&＃xff08;使用 6 个大小为 5 * 5 的卷积核&＃xff09;&＃xff0c;得到6个C1特征图&＃xff08;6个大小为28 * 28的 feature maps, 32-5&＃43;1&＃61;28&＃xff09;。我们再来看看需要多少个参数&＃xff0c;卷积核的大小为5 * 5&＃xff0c;总共就有6 * &＃xff08;5 * 5&＃43;1&＃xff09;&＃61;156个参数&＃xff0c;其中&＃43;1是表示一个核有一个bias。对于卷积层C1&＃xff0c;C1内的每个像素都与输入图像中的5 * 5个像素和1个bias有连接&＃xff0c;所以总共有156 * 28 * 28&＃61;122304个连接&＃xff08;connection&＃xff09;。有122304个连接&＃xff0c;但是我们只需要学习156个参数&＃xff0c;主要是通过权值共享实现的。
3、S2层-池化层&＃xff08;下采样层&＃xff09;
输入&＃xff1a;28*28

采样区域&＃xff1a;2*2

采样方式&＃xff1a;4个输入相加&＃xff0c;乘以一个可训练参数&＃xff0c;再加上一个可训练偏置。结果通过sigmoid

采样种类&＃xff1a;6

输出featureMap大小&＃xff1a;14*14&＃xff08;28/2&＃xff09;

神经元数量&＃xff1a;14 * 14 * 6

连接数&＃xff1a;&＃xff08;2 * 2&＃43;1&＃xff09;* 6 * 14 * 14

S2中每个特征图的大小是C1中特征图大小的1/4。

详细说明&＃xff1a;第一次卷积之后紧接着就是池化运算&＃xff0c;使用 2 * 2核 进行池化&＃xff0c;于是得到了S2&＃xff0c;6个14 * 14的 特征图&＃xff08;28/2&＃61;14&＃xff09;。S2这个pooling层是对C1中的2 * 2区域内的像素求和乘以一个权值系数再加上一个偏置&＃xff0c;然后将这个结果再做一次映射。同时有5x14x14x6&＃61;5880个连接。

4、C3层-卷积层
输入&＃xff1a;S2中所有6个或者几个特征map组合

卷积核大小&＃xff1a;5 * 5

卷积核种类&＃xff1a;16

输出featureMap大小&＃xff1a;10*10 (14-5&＃43;1)&＃61;10

C3中的每个特征map是连接到S2中的所有6个或者几个特征map的&＃xff0c;表示本层的特征map是上一层提取到的特征map的不同组合

存在的一个方式是&＃xff1a;C3的前6个特征图以S2中3个相邻的特征图子集为输入。接下来6个特征图以S2中4个相邻特征图子集为输入。然后的3个以不相邻的4个特征图子集为输入。最后一个将S2中所有特征图为输入。

则&＃xff1a;可训练参数&＃xff1a;6 * (3 * 5 * 5&＃43;1)&＃43;6 * (4 * 5 * 5 &＃43;1)&＃43;3 * (4 * 5 * 5&＃43;1)&＃43;1 *(6 * 5 * 5 &＃43; 1 )&＃61;1516

连接数&＃xff1a;10 * 10 * 1516&＃61;151600

详细说明&＃xff1a;第一次池化之后是第二次卷积&＃xff0c;第二次卷积的输出是C3&＃xff0c;16个10x10的特征图&＃xff0c;卷积核大小是 5 * 5. 我们知道S2 有6个 14 * 14 的特征图&＃xff0c;怎么从6 个特征图得到 16个特征图了&＃xff1f; 这里是通过对S2 的特征图特殊组合计算得到的16个特征图。具体如下&＃xff1a;

C3的前6个feature map&＃xff08;对应上图第一个红框的6列&＃xff09;与S2层相连的3个feature map相连接&＃xff08;上图第一个红框&＃xff09;&＃xff0c;后面6个feature map与S2层相连的4个feature map相连接&＃xff08;上图第二个红框&＃xff09;&＃xff0c;后面3个feature map与S2层部分不相连的4个feature map相连接&＃xff0c;最后一个与S2层的所有feature map相连。卷积核大小依然为5 * 5&＃xff0c;所以总共有6 *(3 * 5 * 5&＃43;1)&＃43;6 * (4 * 5 * 5&＃43;1)&＃43;3 * (4 * 5 * 5&＃43;1)&＃43;1 * (6 * 5 * 5&＃43;1)&＃61;1516个参数。而图像大小为10 * 10&＃xff0c;所以共有151600个连接。

C3与S2中前3个图相连的卷积结构如下图所示&＃xff1a;

上图对应的参数为 3 * 5 * 5&＃43;1&＃xff0c;一共进行6次卷积得到6个特征图&＃xff0c;所以有6 * ( 3 * 5 * 5 &＃43; 1 &＃xff09;参数。 为什么采用上述这样的组合了&＃xff1f;论文中说有两个原因&＃xff1a;1&＃xff09;减少参数&＃xff0c;2&＃xff09;这种不对称的组合连接的方式有利于提取多种组合特征。

5、S4层-池化层&＃xff08;下采样层&＃xff09;
输入&＃xff1a;10*10

采样区域&＃xff1a;2*2

采样方式&＃xff1a;4个输入相加&＃xff0c;乘以一个可训练参数&＃xff0c;再加上一个可训练偏置。结果通过sigmoid

采样种类&＃xff1a;16

输出featureMap大小&＃xff1a;5*5&＃xff08;10/2&＃xff09;

神经元数量&＃xff1a;5 * 5 * 16&＃61;400

连接数&＃xff1a;16*&＃xff08;2*2&＃43;1&＃xff09; * 5 * 5&＃61;2000

S4中每个特征图的大小是C3中特征图大小的1/4

详细说明&＃xff1a;S4是pooling层&＃xff0c;窗口大小仍然是2*2&＃xff0c;共计16个feature map&＃xff0c;C3层的16个10x10的图分别进行以2x2为单位的池化得到16个5x5的特征图。有5x5x5x16&＃61;2000个连接。连接的方式与S2层类似。

6、C5层-卷积层
输入&＃xff1a;S4层的全部16个单元特征map&＃xff08;与s4全相连&＃xff09;

卷积核大小&＃xff1a;5 * 5

卷积核种类&＃xff1a;120

输出featureMap大小&＃xff1a;1 * 1&＃xff08;5-5&＃43;1&＃xff09;

可训练参数/连接&＃xff1a;120 * &＃xff08;16 * 5 * 5&＃43;1&＃xff09;&＃61;48120

详细说明&＃xff1a;C5层是一个卷积层。由于S4层的16个图的大小为5x5&＃xff0c;与卷积核的大小相同&＃xff0c;所以卷积后形成的图的大小为1x1。这里形成120个卷积结果。每个都与上一层的16个图相连。所以共有(5x5x16&＃43;1)x120 &＃61; 48120个参数&＃xff0c;同样有48120个连接。C5层的网络结构如下&＃xff1a;

7、F6层-全连接层
输入&＃xff1a;c5 120维向量

计算方式&＃xff1a;计算输入向量和权重向量之间的点积&＃xff0c;再加上一个偏置&＃xff0c;结果通过sigmoid函数输出。

可训练参数:84 * (120&＃43;1)&＃61;10164

详细说明&＃xff1a;6层是全连接层。F6层有84个节点&＃xff0c;对应于一个7x12的比特图&＃xff0c;-1表示白色&＃xff0c;1表示黑色&＃xff0c;这样每个符号的比特图的黑白色就对应于一个编码。该层的训练参数和连接数是(120 &＃43; 1)x84&＃61;10164。ASCII编码图如下&＃xff1a;

F6层的连接方式如下&＃xff1a;

8、Output层-全连接层
Output层也是全连接层&＃xff0c;共有10个节点&＃xff0c;分别代表数字0到9&＃xff0c;且如果节点i的值为0&＃xff0c;则网络识别的结果是数字i。采用的是径向基函数&＃xff08;RBF&＃xff09;的网络连接方式。假设x是上一层的输入&＃xff0c;y是RBF的输出&＃xff0c;则RBF输出的计算方式是&＃xff1a;

上式w_ij 的值由i的比特图编码确定&＃xff0c;i从0到9&＃xff0c;j取值从0到7*12-1。RBF输出的值越接近于0&＃xff0c;则越接近于i&＃xff0c;即越接近于i的ASCII编码图&＃xff0c;表示当前网络输入的识别结果是字符i。该层有84x10&＃61;840个参数和连接。

上图是LeNet-5识别数字3的过程。

本来已经打印完论文准备看一下的&＃xff0c;结果这周考试加一大堆事情耽误了&＃xff0c;而且论文也比较厚&＃xff0c;四十多页&＃xff0c;看的有点慢。过段时间再完善一下。