零基础入门深度学习（七）：图像分类任务之VGG、GoogLeNet和ResNet

作者：刘小宝0201 | 来源：互联网 | 2023-06-14 18:33

授课讲师|孙高峰百度深度学习技术平台部资深研发工程师授课时间|每周二、周四晚20:00-21:00编辑整理|孙高峰内容来源|百度飞桨深度学习集训营01导读本课程是百度官方开设的零基

授课讲师 | 孙高峰百度深度学习技术平台部资深研发工程师
授课时间 | 每周二、周四晚20:00-21:00
编辑整理 | 孙高峰
内容来源 | 百度飞桨深度学习集训营

导读

本课程是百度官方开设的零基础入门深度学习课程&＃xff0c;主要面向没有深度学习技术基础或者基础薄弱的同学&＃xff0c;帮助大家在深度学习领域实现从0到1&＃43;的跨越。从本课程中&＃xff0c;你将学习到&＃xff1a;

深度学习基础知识
numpy实现神经网络构建和梯度下降算法
计算机视觉领域主要方向的原理、实践
自然语言处理领域主要方向的原理、实践
个性化推荐算法的原理、实践

本周为开讲第四周&＃xff0c;百度深度学习技术平台部资深研发工程师孙高峰&＃xff0c;开始讲解计算机视觉中图像分类任务。在上一节课中&＃xff0c;我们为大家介绍了经典的LeNet和AlexNet神经网络结构在眼疾识别任务中的应用&＃xff0c;本节将继续为大家带来更多精彩内容。

VGG

VGG是当前最流行的CNN模型之一&＃xff0c;2014年由Simonyan和Zisserman提出&＃xff0c;其命名来源于论文作者所在的实验室Visual Geometry Group。AlexNet模型通过构造多层网络&＃xff0c;取得了较好的效果&＃xff0c;但是并没有给出深度神经网络设计的方向。VGG通过使用一系列大小为3x3的小尺寸卷积核和pooling层构造深度卷积神经网络&＃xff0c;并取得了较好的效果。VGG模型因为结构简单、应用性极强而广受研究者欢迎&＃xff0c;尤其是它的网络结构设计方法&＃xff0c;为构建深度神经网络提供了方向。

图3 是VGG-16的网络结构示意图&＃xff0c;有13层卷积和3层全连接层。VGG网络的设计严格使用的卷积层和池化层来提取特征&＃xff0c;并在网络的最后面使用三层全连接层&＃xff0c;将最后一层全连接层的输出作为分类的预测。在VGG中每层卷积将使用ReLU作为激活函数&＃xff0c;在全连接层之后添加dropout来抑制过拟合。使用小的卷积核能够有效地减少参数的个数&＃xff0c;使得训练和测试变得更加有效。比如使用两层卷积层&＃xff0c;可以得到感受野为5的特征图&＃xff0c;而比使用的卷积层需要更少的参数。由于卷积核比较小&＃xff0c;可以堆叠更多的卷积层&＃xff0c;加深网络的深度&＃xff0c;这对于图像分类任务来说是有利的。VGG模型的成功证明了增加网络的深度&＃xff0c;可以更好的学习图像中的特征模式。

图3&＃xff1a;VGG模型网络结构示意图

VGG在眼疾识别数据集iChallenge-PM上的具体实现如下代码所示&＃xff1a;

# -*- coding:utf-8 -*- # VGG模型代码import numpy as npimport paddleimport paddle.fluid as fluidfrom paddle.fluid.layer_helper import LayerHelperfrom paddle.fluid.dygraph.nn import Conv2D, Pool2D, BatchNorm, FCfrom paddle.fluid.dygraph.base import to_variable # 定义vgg块&＃xff0c;包含多层卷积和1层2x2的最大池化层class vgg_block(fluid.dygraph.Layer): def __init__(self, name_scope, num_convs, num_channels): """ num_convs, 卷积层的数目 num_channels, 卷积层的输出通道数&＃xff0c;在同一个Incepition块内&＃xff0c;卷积层输出通道数是一样的 """ super(vgg_block, self).__init__(name_scope) self.conv_list &＃61; [] for i in range(num_convs): conv_layer &＃61; self.add_sublayer(&＃39;conv_&＃39; &＃43; str(i), Conv2D(self.full_name(), num_filters&＃61;num_channels, filter_size&＃61;3, padding&＃61;1, act&＃61;&＃39;relu&＃39;)) self.conv_list.append(conv_layer) self.pool &＃61; Pool2D(self.full_name(), pool_stride&＃61;2, pool_size &＃61; 2, pool_type&＃61;&＃39;max&＃39;) def forward(self, x): for item in self.conv_list: x &＃61; item(x) return self.pool(x) class VGG(fluid.dygraph.Layer): def __init__(self, name_scope, conv_arch&＃61;((2, 64), (2, 128), (3, 256), (3, 512), (3, 512))): super(VGG, self).__init__(name_scope) self.vgg_blocks&＃61;[] iter_id &＃61; 0 # 添加vgg_block # 这里一共5个vgg_block&＃xff0c;每个block里面的卷积层数目和输出通道数由conv_arch指定 for (num_convs, num_channels) in conv_arch: block &＃61; self.add_sublayer(&＃39;block_&＃39; &＃43; str(iter_id), vgg_block(self.full_name(), num_convs, num_channels)) self.vgg_blocks.append(block) iter_id &＃43;&＃61; 1 self.fc1 &＃61; FC(self.full_name(), size&＃61;4096, act&＃61;&＃39;relu&＃39;) self.drop1_ratio &＃61; 0.5 self.fc2&＃61; FC(self.full_name(), size&＃61;4096, act&＃61;&＃39;relu&＃39;) self.drop2_ratio &＃61; 0.5 self.fc3 &＃61; FC(self.full_name(), size&＃61;1, ) def forward(self, x): for item in self.vgg_blocks: x &＃61; item(x) x &＃61; fluid.layers.dropout(self.fc1(x), self.drop1_ratio) x &＃61; fluid.layers.dropout(self.fc2(x), self.drop2_ratio) x &＃61; self.fc3(x) return x

with fluid.dygraph.guard(): model &＃61; VGG("VGG") train(model)

通过运行结果可以发现&＃xff0c;在眼疾筛查数据集iChallenge-PM上使用VGG&＃xff0c;loss能有效的下降&＃xff0c;经过5个epoch的训练&＃xff0c;在验证集上的准确率可以达到94%左右。

GoogLeNet

GoogLeNet是2014年ImageNet比赛的冠军&＃xff0c;它的主要特点是网络不仅有深度&＃xff0c;还在横向上具有“宽度”。由于图像信息在空间尺寸上的巨大差异&＃xff0c;如何选择合适的卷积核大小来提取特征就显得比较困难了。空间分布范围更广的图像信息适合用较大的卷积核来提取其特征&＃xff0c;而空间分布范围较小的图像信息则适合用较小的卷积核来提取其特征。为了解决这个问题&＃xff0c;GoogLeNet提出了一种被称为Inception模块的方案。如图4 所示&＃xff1a;

说明&＃xff1a;

Google的研究人员为了向LeNet致敬&＃xff0c;特地将模型命名为GoogLeNet
Inception一词来源于电影《盗梦空间》&＃xff08;Inception&＃xff09;

图4&＃xff1a;Inception模块结构示意图

图4(a)是Inception模块的设计思想&＃xff0c;使用3个不同大小的卷积核对输入图片进行卷积操作&＃xff0c;并附加最大池化&＃xff0c;将这4个操作的输出沿着通道这一维度进行拼接&＃xff0c;构成的输出特征图将会包含经过不同大小的卷积核提取出来的特征。Inception模块采用多通路(multi-path)的设计形式&＃xff0c;每个支路使用不同大小的卷积核&＃xff0c;最终输出特征图的通道数是每个支路输出通道数的总和&＃xff0c;这将会导致输出通道数变得很大&＃xff0c;尤其是使用多个Inception模块串联操作的时候&＃xff0c;模型参数量会变得非常巨大。为了减小参数量&＃xff0c;Inception模块使用了图(b)中的设计方式&＃xff0c;在每个3x3和5x5的卷积层之前&＃xff0c;增加1x1的卷积层来控制输出通道数&＃xff1b;在最大池化层后面增加1x1卷积层减小输出通道数。基于这一设计思想&＃xff0c;形成了上图(b)中所示的结构。下面这段程序是Inception块的具体实现方式&＃xff0c;可以对照图(b)和代码一起阅读。

提示&＃xff1a;

可能有读者会问&＃xff0c;经过3x3的最大池化之后图像尺寸不会减小吗&＃xff0c;为什么还能跟另外3个卷积输出的特征图进行拼接&＃xff1f;这是因为池化操作可以指定窗口大小&＃xff0c;pool_stride&＃61;1和pool_padding&＃61;1&＃xff0c;输出特征图尺寸可以保持不变。

Inception模块的具体实现如下代码所示&＃xff1a;

class Inception(fluid.dygraph.Layer):def __init__(self, name_scope, c1, c2, c3, c4, **kwargs):&＃39;&＃39;&＃39;Inception模块的实现代码&＃xff0c;name_scope, 模块名称&＃xff0c;数据类型为stringc1, 图(b)中第一条支路1x1卷积的输出通道数&＃xff0c;数据类型是整数c2&＃xff0c;图(b)中第二条支路卷积的输出通道数&＃xff0c;数据类型是tuple或list, 其中c2[0]是1x1卷积的输出通道数&＃xff0c;c2[1]是3x3c3&＃xff0c;图(b)中第三条支路卷积的输出通道数&＃xff0c;数据类型是tuple或list, 其中c3[0]是1x1卷积的输出通道数&＃xff0c;c3[1]是3x3c4, 图(b)中第一条支路1x1卷积的输出通道数&＃xff0c;数据类型是整数&＃39;&＃39;&＃39;super(Inception, self).__init__(name_scope)# 依次创建Inception块每条支路上使用到的操作self.p1_1 &＃61; Conv2D(self.full_name(), num_filters&＃61;c1, filter_size&＃61;1, act&＃61;&＃39;relu&＃39;)self.p2_1 &＃61; Conv2D(self.full_name(), num_filters&＃61;c2[0], filter_size&＃61;1, act&＃61;&＃39;relu&＃39;)self.p2_2 &＃61; Conv2D(self.full_name(), num_filters&＃61;c2[1], filter_size&＃61;3, padding&＃61;1, act&＃61;&＃39;relu&＃39;)self.p3_1 &＃61; Conv2D(self.full_name(), num_filters&＃61;c3[0], filter_size&＃61;1, act&＃61;&＃39;relu&＃39;)self.p3_2 &＃61; Conv2D(self.full_name(), num_filters&＃61;c3[1], filter_size&＃61;5, padding&＃61;2, act&＃61;&＃39;relu&＃39;)self.p4_1 &＃61; Pool2D(self.full_name(), pool_size&＃61;3, pool_stride&＃61;1, pool_padding&＃61;1, pool_type&＃61;&＃39;max&＃39;)self.p4_2 &＃61; Conv2D(self.full_name(), num_filters&＃61;c4, filter_size&＃61;1, act&＃61;&＃39;relu&＃39;)def forward(self, x):# 支路1只包含一个1x1卷积p1 &＃61; self.p1_1(x)# 支路2包含 1x1卷积 &＃43; 3x3卷积p2 &＃61; self.p2_2(self.p2_1(x))# 支路3包含 1x1卷积 &＃43; 5x5卷积p3 &＃61; self.p3_2(self.p3_1(x))# 支路4包含最大池化和1x1卷积p4 &＃61; self.p4_2(self.p4_1(x))# 将每个支路的输出特征图拼接在一起作为最终的输出结果return fluid.layers.concat([p1, p2, p3, p4], axis&＃61;1)

‍

GoogLeNet的架构如图5 所示&＃xff0c;在主体卷积部分中使用5个模块&＃xff08;block&＃xff09;&＃xff0c;每个模块之间使用步幅为2的3 ×3最大池化层来减小输出高宽。

第一模块使用一个64通道的7 × 7卷积层。
第二模块使用2个卷积层:首先是64通道的1 × 1卷积层&＃xff0c;然后是将通道增大3倍的3 × 3卷积层。
第三模块串联2个完整的Inception块。
第四模块串联了5个Inception块。
第五模块串联了2 个Inception块。
第五模块的后面紧跟输出层&＃xff0c;使用全局平均池化层来将每个通道的高和宽变成1&＃xff0c;最后接上一个输出个数为标签类别数的全连接层。

说明&＃xff1a;在原作者的论文中添加了图中所示的softmax1和softmax2两个辅助分类器&＃xff0c;如下图所示&＃xff0c;训练时将三个分类器的损失函数进行加权求和&＃xff0c;以缓解梯度消失现象。这里的程序作了简化&＃xff0c;没有加入辅助分类器。

图5&＃xff1a;GoogLeNet模型网络结构示意图

GoogLeNet的具体实现如下代码所示&＃xff1a;

# -*- coding:utf-8 -*- # GoogLeNet模型代码import numpy as npimport paddleimport paddle.fluid as fluidfrom paddle.fluid.layer_helper import LayerHelperfrom paddle.fluid.dygraph.nn import Conv2D, Pool2D, BatchNorm, FCfrom paddle.fluid.dygraph.base import to_variable # 定义Inception块class Inception(fluid.dygraph.Layer): def __init__(self, name_scope, c1, c2, c3, c4, **kwargs): &＃39;&＃39;&＃39; Inception模块的实现代码&＃xff0c; name_scope, 模块名称&＃xff0c;数据类型为string c1, 图(b)中第一条支路1x1卷积的输出通道数&＃xff0c;数据类型是整数 c2&＃xff0c;图(b)中第二条支路卷积的输出通道数&＃xff0c;数据类型是tuple或list, 其中c2[0]是1x1卷积的输出通道数&＃xff0c;c2[1]是3x3 c3&＃xff0c;图(b)中第三条支路卷积的输出通道数&＃xff0c;数据类型是tuple或list, 其中c3[0]是1x1卷积的输出通道数&＃xff0c;c3[1]是3x3 c4, 图(b)中第一条支路1x1卷积的输出通道数&＃xff0c;数据类型是整数 &＃39;&＃39;&＃39; super(Inception, self).__init__(name_scope) # 依次创建Inception块每条支路上使用到的操作 self.p1_1 &＃61; Conv2D(self.full_name(), num_filters&＃61;c1, filter_size&＃61;1, act&＃61;&＃39;relu&＃39;) self.p2_1 &＃61; Conv2D(self.full_name(), num_filters&＃61;c2[0], filter_size&＃61;1, act&＃61;&＃39;relu&＃39;) self.p2_2 &＃61; Conv2D(self.full_name(), num_filters&＃61;c2[1], filter_size&＃61;3, padding&＃61;1, act&＃61;&＃39;relu&＃39;) self.p3_1 &＃61; Conv2D(self.full_name(), num_filters&＃61;c3[0], filter_size&＃61;1, act&＃61;&＃39;relu&＃39;) self.p3_2 &＃61; Conv2D(self.full_name(), num_filters&＃61;c3[1], filter_size&＃61;5, padding&＃61;2, act&＃61;&＃39;relu&＃39;) self.p4_1 &＃61; Pool2D(self.full_name(), pool_size&＃61;3, pool_stride&＃61;1, pool_padding&＃61;1, pool_type&＃61;&＃39;max&＃39;) self.p4_2 &＃61; Conv2D(self.full_name(), num_filters&＃61;c4, filter_size&＃61;1, act&＃61;&＃39;relu&＃39;)def forward(self, x): # 支路1只包含一个1x1卷积 p1 &＃61; self.p1_1(x) # 支路2包含 1x1卷积 &＃43; 3x3卷积 p2 &＃61; self.p2_2(self.p2_1(x)) # 支路3包含 1x1卷积 &＃43; 5x5卷积 p3 &＃61; self.p3_2(self.p3_1(x)) # 支路4包含最大池化和1x1卷积 p4 &＃61; self.p4_2(self.p4_1(x)) # 将每个支路的输出特征图拼接在一起作为最终的输出结果 return fluid.layers.concat([p1, p2, p3, p4], axis&＃61;1) class GoogLeNet(fluid.dygraph.Layer): def __init__(self, name_scope): super(GoogLeNet, self).__init__(name_scope) # GoogLeNet包含五个模块&＃xff0c;每个模块后面紧跟一个池化层 # 第一个模块包含1个卷积层 self.conv1 &＃61; Conv2D(self.full_name(), num_filters&＃61;64, filter_size&＃61;7, padding&＃61;3, act&＃61;&＃39;relu&＃39;) # 3x3最大池化 self.pool1 &＃61; Pool2D(self.full_name(), pool_size&＃61;3, pool_stride&＃61;2, pool_padding&＃61;1, pool_type&＃61;&＃39;max&＃39;) # 第二个模块包含2个卷积层 self.conv2_1 &＃61; Conv2D(self.full_name(), num_filters&＃61;64, filter_size&＃61;1, act&＃61;&＃39;relu&＃39;) self.conv2_2 &＃61; Conv2D(self.full_name(), num_filters&＃61;192, filter_size&＃61;3, padding&＃61;1, act&＃61;&＃39;relu&＃39;) # 3x3最大池化 self.pool2 &＃61; Pool2D(self.full_name(), pool_size&＃61;3, pool_stride&＃61;2, pool_padding&＃61;1, pool_type&＃61;&＃39;max&＃39;) # 第三个模块包含2个Inception块 self.block3_1 &＃61; Inception(self.full_name(), 64, (96, 128), (16, 32), 32) self.block3_2 &＃61; Inception(self.full_name(), 128, (128, 192), (32, 96), 64) # 3x3最大池化 self.pool3 &＃61; Pool2D(self.full_name(), pool_size&＃61;3, pool_stride&＃61;2, pool_padding&＃61;1, pool_type&＃61;&＃39;max&＃39;) # 第四个模块包含5个Inception块 self.block4_1 &＃61; Inception(self.full_name(), 192, (96, 208), (16, 48), 64) self.block4_2 &＃61; Inception(self.full_name(), 160, (112, 224), (24, 64), 64) self.block4_3 &＃61; Inception(self.full_name(), 128, (128, 256), (24, 64), 64) self.block4_4 &＃61; Inception(self.full_name(), 112, (144, 288), (32, 64), 64) self.block4_5 &＃61; Inception(self.full_name(), 256, (160, 320), (32, 128), 128) # 3x3最大池化 self.pool4 &＃61; Pool2D(self.full_name(), pool_size&＃61;3, pool_stride&＃61;2, pool_padding&＃61;1, pool_type&＃61;&＃39;max&＃39;) # 第五个模块包含2个Inception块 self.block5_1 &＃61; Inception(self.full_name(), 256, (160, 320), (32, 128), 128) self.block5_2 &＃61; Inception(self.full_name(), 384, (192, 384), (48, 128), 128) # 全局池化&＃xff0c;尺寸用的是global_pooling&＃xff0c;pool_stride不起作用 self.pool5 &＃61; Pool2D(self.full_name(), pool_stride&＃61;1, global_pooling&＃61;True, pool_type&＃61;&＃39;avg&＃39;) self.fc &＃61; FC(self.full_name(), size&＃61;1)def forward(self, x): x &＃61; self.pool1(self.conv1(x)) x &＃61; self.pool2(self.conv2_2(self.conv2_1(x))) x &＃61; self.pool3(self.block3_2(self.block3_1(x))) x &＃61; self.block4_3(self.block4_2(self.block4_1(x))) x &＃61; self.pool4(self.block4_5(self.block4_4(x))) x &＃61; self.pool5(self.block5_2(self.block5_1(x))) x &＃61; self.fc(x) return x

with fluid.dygraph.guard(): model &＃61; GoogLeNet("GoogLeNet") train(model)

通过运行结果可以发现&＃xff0c;使用GoogLeNet在眼疾筛查数据集iChallenge-PM上&＃xff0c;loss能有效的下降&＃xff0c;经过5个epoch的训练&＃xff0c;在验证集上的准确率可以达到95%左右。

ResNet

ResNet是2015年ImageNet比赛的冠军&＃xff0c;将识别错误率降低到了3.6%&＃xff0c;这个结果甚至超出了正常人眼识别的精度。

通过前面几个经典模型学习&＃xff0c;我们可以发现随着深度学习的不断发展&＃xff0c;模型的层数越来越多&＃xff0c;网络结构也越来越复杂。那么是否加深网络结构&＃xff0c;就一定会得到更好的效果呢&＃xff1f;从理论上来说&＃xff0c;假设新增加的层都是恒等映射&＃xff0c;只要原有的层学出跟原模型一样的参数&＃xff0c;那么深模型结构就能达到原模型结构的效果。换句话说&＃xff0c;原模型的解只是新模型的解的子空间&＃xff0c;在新模型解的空间里应该能找到比原模型解对应的子空间更好的结果。但是实践表明&＃xff0c;增加网络的层数之后&＃xff0c;训练误差往往不降反升。

Kaiming He等人提出了残差网络ResNet来解决上述问题&＃xff0c;其基本思想如图6所示。

图6(a)&＃xff1a;表示增加网络的时候&＃xff0c;将x映射成输出。
图6(b)&＃xff1a;对图6(a)作了改进&＃xff0c;输出。这时不是直接学习输出特征y的表示&＃xff0c;而是学习。
- 如果想学习出原模型的表示&＃xff0c;只需将F(x)的参数全部设置为0&＃xff0c;则是恒等映射。
- 也叫做残差项&＃xff0c;如果的映射接近恒等映射&＃xff0c;图6(b)中通过学习残差项也比图6(a)学习完整映射形式更加容易。

图6&＃xff1a;残差块设计思想

图6(b)的结构是残差网络的基础&＃xff0c;这种结构也叫做残差块&＃xff08;residual block&＃xff09;。输入x通过跨层连接&＃xff0c;能更快的向前传播数据&＃xff0c;或者向后传播梯度。残差块的具体设计方案如图7 所示&＃xff0c;这种设计方案也成称作瓶颈结构&＃xff08;BottleNeck&＃xff09;。

图7&＃xff1a;残差块结构示意图

下图表示出了ResNet-50的结构&＃xff0c;一共包含49层卷积和1层全连接&＃xff0c;所以被称为ResNet-50。

图8&＃xff1a;ResNet-50模型网络结构示意图

ResNet-50的具体实现如下代码所示&＃xff1a;

# -*- coding:utf-8 -*-# ResNet模型代码import numpy as npimport paddleimport paddle.fluid as fluidfrom paddle.fluid.layer_helper import LayerHelperfrom paddle.fluid.dygraph.nn import Conv2D, Pool2D, BatchNorm, FCfrom paddle.fluid.dygraph.base import to_variable# ResNet中使用了BatchNorm层&＃xff0c;在卷积层的后面加上BatchNorm以提升数值稳定性# 定义卷积批归一化块class ConvBNLayer(fluid.dygraph.Layer): def __init__(self, name_scope, num_channels, num_filters, filter_size, stride&＃61;1, groups&＃61;1, act&＃61;None): """ name_scope, 模块的名字 num_channels, 卷积层的输入通道数 num_filters, 卷积层的输出通道数 stride, 卷积层的步幅 groups, 分组卷积的组数&＃xff0c;默认groups&＃61;1不使用分组卷积 act, 激活函数类型&＃xff0c;默认act&＃61;None不使用激活函数 """ super(ConvBNLayer, self).__init__(name_scope) # 创建卷积层 self._conv &＃61; Conv2D( self.full_name(), num_filters&＃61;num_filters, filter_size&＃61;filter_size, stride&＃61;stride, padding&＃61;(filter_size - 1) // 2, groups&＃61;groups, act&＃61;None, bias_attr&＃61;False) # 创建BatchNorm层 self._batch_norm &＃61; BatchNorm(self.full_name(), num_filters, act&＃61;act) def forward(self, inputs): y &＃61; self._conv(inputs) y &＃61; self._batch_norm(y) return y# 定义残差块# 每个残差块会对输入图片做三次卷积&＃xff0c;然后跟输入图片进行短接# 如果残差块中第三次卷积输出特征图的形状与输入不一致&＃xff0c;则对输入图片做1x1卷积&＃xff0c;将其输出形状调整成一致class BottleneckBlock(fluid.dygraph.Layer): def __init__(self, name_scope, num_channels, num_filters, stride, shortcut&＃61;True): super(BottleneckBlock, self).__init__(name_scope) # 创建第一个卷积层 1x1 self.conv0 &＃61; ConvBNLayer( self.full_name(), num_channels&＃61;num_channels, num_filters&＃61;num_filters, filter_size&＃61;1, act&＃61;&＃39;relu&＃39;) # 创建第二个卷积层 3x3 self.conv1 &＃61; ConvBNLayer( self.full_name(), num_channels&＃61;num_filters, num_filters&＃61;num_filters, filter_size&＃61;3, stride&＃61;stride, act&＃61;&＃39;relu&＃39;) # 创建第三个卷积 1x1&＃xff0c;但输出通道数乘以4 self.conv2 &＃61; ConvBNLayer( self.full_name(), num_channels&＃61;num_filters, num_filters&＃61;num_filters * 4, filter_size&＃61;1, act&＃61;None) # 如果conv2的输出跟此残差块的输入数据形状一致&＃xff0c;则shortcut&＃61;True # 否则shortcut &＃61; False&＃xff0c;添加1个1x1的卷积作用在输入数据上&＃xff0c;使其形状变成跟conv2一致 if not shortcut: self.short &＃61; ConvBNLayer( self.full_name(), num_channels&＃61;num_channels, num_filters&＃61;num_filters * 4, filter_size&＃61;1, stride&＃61;stride) self.shortcut &＃61; shortcut self._num_channels_out &＃61; num_filters * 4 def forward(self, inputs): y &＃61; self.conv0(inputs) conv1 &＃61; self.conv1(y) conv2 &＃61; self.conv2(conv1) # 如果shortcut&＃61;True&＃xff0c;直接将inputs跟conv2的输出相加 # 否则需要对inputs进行一次卷积&＃xff0c;将形状调整成跟conv2输出一致 if self.shortcut: short &＃61; inputs else: short &＃61; self.short(inputs) y &＃61; fluid.layers.elementwise_add(x&＃61;short, y&＃61;conv2) layer_helper &＃61; LayerHelper(self.full_name(), act&＃61;&＃39;relu&＃39;) return layer_helper.append_activation(y)# 定义ResNet模型class ResNet(fluid.dygraph.Layer): def __init__(self, name_scope, layers&＃61;50, class_dim&＃61;1): """ name_scope&＃xff0c;模块名称 layers, 网络层数&＃xff0c;可以是50, 101或者152 class_dim&＃xff0c;分类标签的类别数 """ super(ResNet, self).__init__(name_scope) self.layers &＃61; layers supported_layers &＃61; [50, 101, 152] assert layers in supported_layers, \ "supported layers are {} but input layer is {}".format(supported_layers, layers) if layers &＃61;&＃61; 50: #ResNet50包含多个模块&＃xff0c;其中第2到第5个模块分别包含3、4、6、3个残差块 depth &＃61; [3, 4, 6, 3] elif layers &＃61;&＃61; 101: #ResNet101包含多个模块&＃xff0c;其中第2到第5个模块分别包含3、4、23、3个残差块 depth &＃61; [3, 4, 23, 3] elif layers &＃61;&＃61; 152: #ResNet50包含多个模块&＃xff0c;其中第2到第5个模块分别包含3、8、36、3个残差块 depth &＃61; [3, 8, 36, 3] # 残差块中使用到的卷积的输出通道数 num_filters &＃61; [64, 128, 256, 512] # ResNet的第一个模块&＃xff0c;包含1个7x7卷积&＃xff0c;后面跟着1个最大池化层 self.conv &＃61; ConvBNLayer( self.full_name(), num_channels&＃61;3, num_filters&＃61;64, filter_size&＃61;7, stride&＃61;2, act&＃61;&＃39;relu&＃39;) self.pool2d_max &＃61; Pool2D( self.full_name(), pool_size&＃61;3, pool_stride&＃61;2, pool_padding&＃61;1, pool_type&＃61;&＃39;max&＃39;) # ResNet的第二到第五个模块c2、c3、c4、c5 self.bottleneck_block_list &＃61; [] num_channels &＃61; 64 for block in range(len(depth)): shortcut &＃61; False for i in range(depth[block]): bottleneck_block &＃61; self.add_sublayer( &＃39;bb_%d_%d&＃39; % (block, i), BottleneckBlock( self.full_name(), num_channels&＃61;num_channels, num_filters&＃61;num_filters[block], stride&＃61;2 if i &＃61;&＃61; 0 and block !&＃61; 0 else 1, # c3、c4、c5将会在第一个残差块使用stride&＃61;2&＃xff1b;其余所有残差块stride&＃61;1 shortcut&＃61;shortcut)) num_channels &＃61; bottleneck_block._num_channels_out self.bottleneck_block_list.append(bottleneck_block) shortcut &＃61; True # 在c5的输出特征图上使用全局池化 self.pool2d_avg &＃61; Pool2D( self.full_name(), pool_size&＃61;7, pool_type&＃61;&＃39;avg&＃39;, global_pooling&＃61;True) # stdv用来作为全连接层随机初始化参数的方差 import math stdv &＃61; 1.0 / math.sqrt(2048 * 1.0) # 创建全连接层&＃xff0c;输出大小为类别数目 self.out &＃61; FC(self.full_name(), size&＃61;class_dim, param_attr&＃61;fluid.param_attr.ParamAttr( initializer&＃61;fluid.initializer.Uniform(-stdv, stdv))) def forward(self, inputs): y &＃61; self.conv(inputs) y &＃61; self.pool2d_max(y) for bottleneck_block in self.bottleneck_block_list: y &＃61; bottleneck_block(y) y &＃61; self.pool2d_avg(y) y &＃61; self.out(y) return y

with fluid.dygraph.guard(): model &＃61; ResNet("ResNet") train(model)

通过运行结果可以发现&＃xff0c;使用ResNet在眼疾筛查数据集iChallenge-PM上&＃xff0c;loss能有效的下降&＃xff0c;经过5个epoch的训练&＃xff0c;在验证集上的准确率可以达到95%左右。

总结

本周课程中孙老师主要为大家讲解了计算机视觉中分类任务的主要内容&＃xff0c;以眼疾识别任务为例&＃xff0c;讲解了经典卷积神经网络VGG、GoogLeNet和ResNet。在后期课程中&＃xff0c;将继续为大家带来内容更丰富的课程&＃xff0c;帮助学员快速掌握深度学习方法。

【如何学习】