目录

1.ResNet详解

1.1 梯度消失与梯度爆炸问题 

1.2 残差模块

1.3 五种ResNet网络结构 

1.4 34层ResNet结构分析 

1.4.1 残差结构中出现虚线的原因 

2.Batch Normalization 

1.ResNet详解

1.1 梯度消失与梯度爆炸问题 

如何解决梯度消失和梯度爆炸？

答：1.数据标准化；2.权重初始化；3.BN；

如何解决退化问题？

答：使用残差模块解决退化问题。 （退化问题：神经网络层数加深导致损失函数值增大的问题。）

1.2 残差模块

1.3 五种ResNet网络结构 

1.4 34层ResNet结构分析 

1.4.1 残差结构中出现虚线的原因 

18、34层conv2_x没有虚线的原因：

通过最大池化下采样后得到的输出是[56，56，64]，刚好是实线残差结构所需要的输入shape。

50、101、152层conv2_x有虚线的原因：

通过最大池化层后的输出shape是[56，56，64]，而实线残差结构所需要的输入shape是[56，56，256]。

50、101、152层conv2_x第一个虚线残差层仅调整特征矩阵的深度，高和宽不变。

2.Batch Normalization 

BN层详解链接