分组卷积计算量_分解卷积的一些方法

目录

• depth-wise conv
• gourp conv
• channel-wise conv

传统卷积中&＃xff0c;假设输入通道数n&＃xff0c;大小

&＃xff0c;输出通道数m&＃xff0c;卷积核大小

&＃xff0c;步长为1的情况下&＃xff0c;计算量为

&＃xff0c;参数量为

&＃xff0c;造成的计算量和参数量非常大。因此衍生出一些用于降低模型大小和计算量的方法&＃xff0c;本文对其中三个方法进行简单介绍。

depth-wise convolution

MobileNets是为移动设备设计的网络&＃xff0c;该模型的核心是名为depth-wise separable convolution的卷积层。它将传统卷积分解为一个depth-wise convolution和一个1x1卷积。

对一个大小为

的输入图&＃xff0c;传统的方法是使用大小为

的卷积核进行卷积。

而depth-wise separable convolution则首先使用大小为

的卷积核进行depth-wise convolution。具体来说&＃xff0c;在depth-wise convolution中&＃xff0c;n个输入通道中的每一个都有相应的卷积核&＃xff0c;两两进行卷积。得到的输出通道数为n&＃xff0c;如果stride为1且padding为same的话&＃xff0c;大小就是

。

接下来再进行1x1卷积&＃xff0c;卷积核为

&＃xff0c;得到

的最终输出。

这种方法的计算量为

&＃xff0c;参数大小为

可以发现参数量和计算量都大幅下降。

但是可以发现仍然没有规避一个巨大的

&＃xff0c;在现代网络通道数动辄512、1024的情况下&＃xff0c;仍然有优化余地。

group convolution

group convolution的历史就比较早了&＃xff0c;在AlexNet中就有。

group convolution就是把输入特征图分为g组&＃xff0c;然后将这g个组分别进行卷积。道理很简单。

我们假设输入通道数和输出通道数都能被g整除&＃xff0c;那么计算量就是

&＃xff0c;参数量是

group convolution的缺点是&＃xff0c;每个group之间的特征不进行交换&＃xff0c;会造成性能下降。

后面有ShuffleNet对group convolution进行改进&＃xff0c;就是在卷积完成后加入一个channel shuffle。我看其他人写的材料称之为“均匀地打乱”&＃xff0c;这样接下来进行group convolution时&＃xff0c;每一个group的输入不是只来自相邻组&＃xff0c;这样就实现了特征融合。

channel-wise convolution

近日阅读paper&＃xff0c;发现一个

的式子用在动态生成卷积核的简化上。 说

代表channel-wise convolution。查资料看到一篇18年的paper定义了它&＃xff0c;但是写得有点晦涩&＃xff0c;中文网络反而没有其他解释。因此在对paper进行努力阅读理解的过程中写了这些东西。

首先我们从特例开始。输入

大小的特征图&＃xff0c;输出通道为m。那么输入可以平铺为

&＃xff08;假设

为整数&＃xff09;。此时channel-wise convolution就是对这个平铺的特征图的普通1x1卷积。

当输入特征图大小不为1时&＃xff0c;卷积核就在channel维度上移动&＃xff0c;卷积核窗口内每一个元素都落在不同channel的相同位置上。下图展示的是通道数n&＃61;9&＃xff0c;输入宽度为2的输入特征图&＃xff0c;大小为4的卷积核在上面滑动。

channel-wise convolution的卷积核为公用的&＃xff0c;大小为

的卷积核&＃xff0c;代表着参数量也仅为

。它的计算量为

&＃xff0c;规避了 巨大的

&＃xff0c;效率比较高。

参考文献

1. Gao, Hongyang, Zhengyang Wang, and Shuiwang Ji. "ChannelNets: Compact and efficient convolutional neural networks via channel-wise convolutions."Advances in Neural Information Processing Systems. 2018.
2. "MobileNets." 机器之心, 23 Feb. 2020, MobileNets.
3. "CNN模型之ShuffleNet." 知乎专栏, 23 Feb. 2020, 小小将&＃xff1a;CNN模型之ShuffleNet.
4. "Group Convolution分组卷积&＃xff0c;以及Depthwise Convolution和Global Depthwise Convolution - shine-lee - 博客园." 23 Feb. 2020, Group Convolution分组卷积&＃xff0c;以及Depthwise Convolution和Global Depthwise Convolution.