[论文解读] Channel Locality Block: A Variant of Squeeze-and-Excitation

Huayu Li|arXiv (Cornell University)|Jan 6, 2019

Advanced Neural Network Applications参考文献 16被引用 5

一句话总结

本文提出通道局部性（C-Local）模块，作为Squeeze-and-Excitation（SE）模块的变体，通过用1D卷积层替代全局全连接层，以建模局部通道相关性而非全局通道依赖性。在CIFAR-10上的实验表明，C-Local优于SE模块，在标准CNN上达到90.8%的准确率，在修改后的ResNet上达到88.3%，通过局部化通道注意力实现了性能提升。

ABSTRACT

Attention mechanism is a hot spot in deep learning field. Using channel attention model is an effective method for improving the performance of the convolutional neural network. Squeeze-and-Excitation block takes advantage of the channel dependence, selectively emphasizing the important channels and compressing the relatively useless channel. In this paper, we proposed a variant of SE block based on channel locality. Instead of using full connection layers to explore the global channel dependence, we adopt convolutional layers to learn the correlation between the nearby channels. We term this new algorithm Channel Locality(C-Local) block. We evaluate SE block and C-Local block by applying them to different CNNs architectures on cifar-10 dataset. We observed that our C-Local block got higher accuracy than SE block did.

研究动机与目标

• 探究通道特征相关性是否表现出局部性，类似于CNN中的空间局部性。
• 通过聚焦于邻近通道而非全局通道依赖性，改进通道注意力机制。
• 开发一种轻量化、即插即用的模块，在不增加模型复杂度的前提下提升CNN性能。
• 在CIFAR-10等标准基准上验证局部通道注意力的有效性。
• 提供SE模块的替代方案，通过局部特征重校准减少全局耦合，提升表征能力。

提出的方法

• 用1D卷积层替代SE模块中的全局平均池化和全连接层，以学习相邻通道之间的相关性。
• 应用全局平均池化以压缩空间维度，生成通道级全局描述符。
• 使用核大小为2×1和1×1的1D卷积层，学习相邻特征通道之间的局部通道依赖性。
• 在CNN中每个卷积层后堆叠C-Local模块，支持端到端训练，并可轻松集成到现有架构中。
• 应用可学习权重，根据局部通道相关性得分对特征图进行缩放，实现通道特征的动态重校准。
• 使用单个1D滤波器显式建模邻近通道之间的关系，相比全通道注意力，减少了参数耦合。

实验结果

研究问题

• RQ1 通道特征相关性是否表现出局部性，类似于CNN中的空间局部性？
• RQ2 与全局通道注意力机制相比，建模局部通道依赖性是否能提升性能？
• RQ3 1D卷积层在学习通道注意力方面是否比全连接层更有效？
• RQ4 C-Local模块是否能无需架构修改即可有效集成到多种CNN架构中？
• RQ5 通过局部注意力减少全局通道耦合，是否能带来图像分类任务中更好的泛化能力和准确率？

主要发现

• 在标准CNN上应用C-Local模块后，CIFAR-10测试集的Top-1准确率达到90.8%，优于基线模型（88.7%）和SE模块（89.4%）。
• 在修改后的ResNet架构上，C-Local模块达到88.3%的准确率，而基线模型为86.7%，SE模块为87.4%。
• C-Local模块在多种网络架构中均表现出一致的性能提升，表明其具有良好的泛化性和有效性。
• 使用1D卷积层建模局部通道相关性，降低了通道特征的全局耦合，可能提升了模型鲁棒性。
• 结果表明，局部通道注意力在捕捉图像分类相关通道依赖性方面，比全局注意力更有效。
• 作者得出结论：探索局部数据关系（如局部通道相关性）可能比依赖全局数据建模在深度学习中更具优势。