作者:谋 | 来源:互联网 | 2023-08-08 01:40
论文:ACNet:StrengtheningtheKernelSkeletonsforPowerfulCNNviaAsymmetricConvolutionBlock
论文 :ACNet: Strengthening the Kernel Skeletons for Powerful CNN via Asymmetric Convolution Blocks(ICCV 2019) 代码 :https://github.com/DingXiaoH/ACNet
动机 现在一般网络中 3∗33*3 3 ∗ 3 卷积核使用最为广泛,为增强特征提取效率,将 3∗33*3 3 ∗ 3 的卷积核拆分成几个不同形状卷积核的形式进行训练,推理阶段 将其融合为一个 3∗33*3 3 ∗ 3 卷积,没有带来额外的计算量 ,但是提取特征的能力更强。这依赖于卷积操作的可叠加性:
非对称卷积 训练阶段
将卷积核分成三个部分(如下图),称为非对称卷积(Asymmetric Convolution),以增强提取特征的能力 横向卷积和纵向卷积可以提升网络对图像翻转的鲁棒性 测试阶段
卷积核完成了融合,在测试时与普通卷积核一样并不增加计算量 融合方式
测试阶段在卷积核融合前BN比融合后BN的效果更好,统一进行BN弱化了不同卷积之间的特点。
相关实验
参考文献 【1】ACNet——涨点且不增加耗时的技巧 【2】33卷积+1 3卷积+3*1卷积=白给的精度提升 | ICCV 2019 【3】ICCV 2019 ACNet实现说明 (PaddlePaddle Version)