[论文解读] Gated Convolutional Networks with Hybrid Connectivity for Image Classification

Chuanguang Yang, Zhulin An+6 more|arXiv (Cornell University)|Aug 26, 2019

Advanced Neural Network Applications参考文献 30被引用 13

一句话总结

本文提出HCGNet，一种新颖的卷积神经网络架构，通过结合混合连接性（全局密集连接与局部残差连接）和门控特征融合机制，在减少DenseNet冗余性的同时增强特征表征能力。通过引入带有多种卷积核的深度可分离卷积与可学习遗忘/更新门控的挤压-激励模块，HCGNet在CIFAR和ImageNet数据集上实现了SOTA精度，且参数量和FLOPs显著减少，优于人工设计与NAS优化的模型。

ABSTRACT

We propose a simple yet effective method to reduce the redundancy of DenseNet by substantially decreasing the number of stacked modules by replacing the original bottleneck by our SMG module, which is augmented by local residual. Furthermore, SMG module is equipped with an efficient two-stage pipeline, which aims to DenseNet-like architectures that need to integrate all previous outputs, i.e., squeezing the incoming informative but redundant features gradually by hierarchical convolutions as a hourglass shape and then exciting it by multi-kernel depthwise convolutions, the output of which would be compact and hold more informative multi-scale features. We further develop a forget and an update gate by introducing the popular attention modules to implement the effective fusion instead of a simple addition between reused and new features. Due to the Hybrid Connectivity (nested combination of global dense and local residual) and Gated mechanisms, we called our network as the HCGNet. Experimental results on CIFAR and ImageNet datasets show that HCGNet is more prominently efficient than DenseNet, and can also significantly outperform state-of-the-art networks with less complexity. Moreover, HCGNet also shows the remarkable interpretability and robustness by network dissection and adversarial defense, respectively. On MS-COCO, HCGNet can consistently learn better features than popular backbones.

研究动机与目标

• 为减少DenseNet中全连接跳跃连接固有的冗余性，其冗余性随深度呈二次方增长并传播信息量较少的特征。
• 通过结合密集连接（特征探索）与残差学习（参数效率与低冗余性）的优势，提升特征表征能力。
• 通过在特征聚合与注意力机制方面的架构创新，增强模型可解释性与对抗鲁棒性。
• 开发一种轻量化、可泛化的模块，可无缝嵌入现有CNN模型，计算开销极低。

提出的方法

• 提出SMG（Squeeze-and-Multi-scale Excitation Gated）模块，采用两阶段流程：首先，通过倒圆柱形结构的分层卷积，利用挤压单元降低特征维度。
• 其次，多尺度激励单元应用多卷积核深度可分离卷积，提取紧凑且信息丰富的多尺度特征。
• 在残差路径上引入遗忘门，通过建模通道间依赖关系，抑制冗余的重复特征。
• 通过全局上下文建模引入更新门，增强融合前的信息特征。
• 采用混合连接模式：在所有先前模块间进行全局通道拼接（密集连接），在模块内部进行局部逐元素相加（残差连接）。
• 采用门控融合机制替代简单的拼接或加法操作，实现动态、基于注意力的特征融合。

实验结果

研究问题

• RQ1 结合密集连接与残差连接的混合连接模式，是否能在减少冗余的同时保持或提升深层网络的特征表征能力？
• RQ2 与固定求和或拼接操作相比，可学习的遗忘门与更新门是否能提升特征融合效率与模型性能？
• RQ3 所提出的SMG模块通过分层压缩与多尺度激励机制，是否能带来更优的特征紧凑性与表征能力？
• RQ4 HCGNet是否能在显著降低FLOPs与参数量的前提下，超越人工设计与NAS优化模型，实现SOTA性能？
• RQ5 该架构在真实视觉任务中，对模型可解释性与对抗鲁棒性的提升程度如何？

主要发现

• HCGNet-A3在CIFAR-10与CIFAR-100上表现卓越，参数量仅为NASNet-A的1/4.5，精度仍更优。
• 在ImageNet上，HCGNet-B在复杂度相当或更低的模型中实现了最佳top-1与top-5精度，超越DenseNet-169与AOGNet。
• 与DenseNet-169相比，HCGNet-B将特征冗余降低了88%，同时精度提升超过2.3%。
• 在神经网络解构分析中，HCGNet-B表现出最高的可解释性评分，表明其潜在表征质量更优。
• 在FGSM攻击下，HCGNet-B的对抗鲁棒性优于ResNet-50与AOGNet，尤其在高扰动水平下优势更明显。
• 在COCO目标检测与实例分割任务中，以HCGNet-B作为骨干网络，其AP指标优于ResNet-50与AOGNet骨干网络。