[논문 리뷰] Gated Convolutional Networks with Hybrid Connectivity for Image Classification

Chuanguang Yang, Zhulin An외 6명|arXiv (Cornell University)|2019. 08. 26.

Advanced Neural Network Applications참고 문헌 30인용 수 13

한 줄 요약

이 논문은 HCGNet을 제안하며, 하이브리드 연결성(전역 밀집 및 국소 잔차)과 게이트형 특징 융합을 결합하여 DenseNet의 부족한 부분을 줄이고 특징 표현 능력을 향상시킨 새로운 합성곱 신경망 아키텍처이다. 스queeze-and-excite 모듈에 다중 커널 디프웨이즈 컨볼루션과 학습 가능한 잊기/업데이트 게이트를 도입함으로써 HCGNet은 파라미터와 FLOPs를 크게 줄이고도 CIFAR 및 ImageNet에서 최신 기준(SOTA) 성능을 달성하여 수동 설계된 모델과 NAS 최적화 모델을 모두 능가한다.

ABSTRACT

We propose a simple yet effective method to reduce the redundancy of DenseNet by substantially decreasing the number of stacked modules by replacing the original bottleneck by our SMG module, which is augmented by local residual. Furthermore, SMG module is equipped with an efficient two-stage pipeline, which aims to DenseNet-like architectures that need to integrate all previous outputs, i.e., squeezing the incoming informative but redundant features gradually by hierarchical convolutions as a hourglass shape and then exciting it by multi-kernel depthwise convolutions, the output of which would be compact and hold more informative multi-scale features. We further develop a forget and an update gate by introducing the popular attention modules to implement the effective fusion instead of a simple addition between reused and new features. Due to the Hybrid Connectivity (nested combination of global dense and local residual) and Gated mechanisms, we called our network as the HCGNet. Experimental results on CIFAR and ImageNet datasets show that HCGNet is more prominently efficient than DenseNet, and can also significantly outperform state-of-the-art networks with less complexity. Moreover, HCGNet also shows the remarkable interpretability and robustness by network dissection and adversarial defense, respectively. On MS-COCO, HCGNet can consistently learn better features than popular backbones.

연구 동기 및 목표

• 깊이가 증가함에 따라 제곱적으로 증가하는 DenseNet의 전체 스킵 커넥션에서 내재된 부복잡성을 줄이기 위해, 정보가 적은 특징을 전파하는 것을 방지한다.
• 밀집 연결성(특징 탐색)의 장점과 잔차 학습(파라미터 효율성 및 낮은 부복잡성)의 장점을 조합하여 특징 표현 능력을 향상시킨다.
• 특징 집계 및 주의 메커니즘의 아키텍처 혁신을 통해 모델의 해석 가능성과 적대적 공격에 대한 강건성을 향상시킨다.
• 기존 CNN에 최소한의 계산 오버헤드로 쉽게 통합할 수 있는 경량화되고 일반화된 모듈을 개발한다.

제안 방법

• 스퀴즈-멀티스케일 응흥 게이트(SMG) 모듈을 도입하며, 이는 이중 단계 파이프라인을 사용한다: 첫 번째로, 시계열 컨볼루션을 통해 시계열 구조로 특징 차원을 감소시키는 스퀴즈 셀을 적용한다.
• 두 번째로, 다중 커널 디프웨이즈 컨볼루션을 적용하여 압축되고 정보가 풍부한 다중 스케일 특징을 추출하는 다중 스케일 응흥 셀을 적용한다.
• 채널 별 종속성을 모델링하여 재사용되는 부복잡한 특징을 억제하기 위해 잔차 경로에 잊기 게이트를 통합한다.
• 전역적 맥락 모델링을 사용하여 정보가 풍부한 특징을 향상시키기 전에 융합하기 위해 업데이트 게이트를 도입한다.
• 하이브리드 연결 패턴을 적용한다: 모든 이전 모듈 간의 전역 채널 병합(밀집)과 모듈 내 국소 요소별 덧셈(잔차)을 동시에 구현한다.
• 간단한 병합 또는 덧셈 대신 게이트형 융합 메커니즘을 사용하여 동적이고 주의 기반의 특징 통합을 가능하게 한다.

실험 결과

연구 질문

• RQ1 밀집 연결성과 잔차 연결성을 조합한 하이브리드 연결 패턴이 깊은 네트워크에서 부복잡성을 줄이고 특징 표현 능력을 유지하거나 향상시킬 수 있는가?
• RQ2 학습 가능한 잊기 게이트와 업데이트 게이트가 고정된 합산 또는 병합 방식보다 특징 융합 효율성과 모델 성능을 향상시킬 수 있는가?
• RQ3 계층적 압축과 다중 스케일 응흥을 갖춘 제안된 SMG 모듈이 더 나은 특징 압축성과 표현 능력을 제공하는가?
• RQ4 HCGNet이 수동 설계된 모델과 NAS 최적화 모델에 비해 상당히 낮은 FLOPs와 파라미터로 최신 기준 성능을 달성할 수 있는가?
• RQ5 이 아키텍처가 실제 비전 작업에서 모델의 해석 가능성과 적대적 공격에 대한 강건성을 어느 정도 향상시키는가?

주요 결과

• HCGNet-A3는 CIFAR-10과 CIFAR-100에서 NASNet-A보다 4.5배 적은 파라미터로 뛰어난 성능을 기록한다.
• ImageNet에서 HCGNet-B는 유사하거나 낮은 복잡도의 모델들 중에서 최고의 top-1 및 top-5 정확도를 확보하며, DenseNet-169 및 AOGNet을 능가한다.
• HCGNet-B는 DenseNet-169 대비 특징 부복잡성을 88% 감소시키면서도 정확도를 2.3% 이상 향상시켰다.
• 네트워크 디섹션 분석에서 HCGNet-B는 가장 높은 해석 가능성 점수를 기록하여 우수한 잠재 표현 품질을 입증했다.
• FGSM 공격 하에서 HCGNet-B는 ResNet-50 및 AOGNet보다 더 강력한 적대적 강건성을 보였으며, 특히 높은 노이즈 수준에서 두드러졌다.
• COCO 객체 검출 및 인스턴스 세그멘테이션 작업에서 HCGNet-B를 백본으로 사용할 경우, ResNet-50 및 AOGNet 백본을 능가하는 AP 지표를 확보했다.