Group Convolution分组卷积&＃xff0c;最早见于AlexNet——2012年Imagenet的冠军方法&＃xff0c;Group Convolution被用来切分网络&＃xff0c;使其在2个GPU上并行运行&＃xff0c;AlexNet网络结构如下&＃xff1a;

在介绍Group Convolution前&＃xff0c;先回顾下常规卷积是怎么做的&＃xff0c;具体可以参见博文《卷积神经网络之卷积计算、作用与思想》。如果输入feature map尺寸为$C\ast H\ast WC\ast H\ast WC\ast H\ast W$C的向量&＃xff0c;此时称之为Global Depthwise Convolution&＃xff08;GDC&＃xff09;&＃xff0c;见MobileFaceNet&＃xff0c;可以看成是全局加权池化&＃xff0c;与 Global Average Pooling&＃xff08;GAP&＃xff09; 的不同之处在于&＃xff0c;GDC 给每个位置赋予了可学习的权重&＃xff08;对于已对齐的图像这很有效&＃xff0c;比如人脸&＃xff0c;中心位置和边界位置的权重自然应该不同&＃xff09;&＃xff0c;而GAP每个位置的权重相同&＃xff0c;全局取个平均&＃xff0c;如下图所示&＃xff1a;

以上。

• A Tutorial on Filter Groups (Grouped Convolution)
• Interleaved Group Convolutions for Deep Neural Networks