[논문 리뷰] Channel Locality Block: A Variant of Squeeze-and-Excitation

Huayu Li|arXiv (Cornell University)|2019. 01. 06.

Advanced Neural Network Applications참고 문헌 16인용 수 5

한 줄 요약

이 논문은 채널 국소성(C-Local) 블록을 제안하며, 이는 전역 완전 연결 레이어를 1D 컨볼루션 레이어로 대체하여 전역 채널 의존성 대신 국소 채널 상관관계를 모델링하는 Squeeze-and-Excitation(SE) 블록의 변종이다. CIFAR-10에서의 실험 결과, C-Local는 SE를 능가하여 표준 CNN에서 90.8%의 정확도를 기록했고, 수정된 ResNet에서는 88.3%를 기록하여 국소 채널 주의를 통해 성능 향상을 입증하였다.

ABSTRACT

Attention mechanism is a hot spot in deep learning field. Using channel attention model is an effective method for improving the performance of the convolutional neural network. Squeeze-and-Excitation block takes advantage of the channel dependence, selectively emphasizing the important channels and compressing the relatively useless channel. In this paper, we proposed a variant of SE block based on channel locality. Instead of using full connection layers to explore the global channel dependence, we adopt convolutional layers to learn the correlation between the nearby channels. We term this new algorithm Channel Locality(C-Local) block. We evaluate SE block and C-Local block by applying them to different CNNs architectures on cifar-10 dataset. We observed that our C-Local block got higher accuracy than SE block did.

연구 동기 및 목표

• 채널별 특징 상관관계가 CNN의 공간 국소성과 유사하게 국소성을 띠는가를 조사하는 것.
• 전역 채널 의존성 대신 인접한 채널에 집중하여 채널 주의 메커니즘을 향상시키는 것.
• 모델 복잡도를 증가시키지 않고도 성능을 향상시키는 경량의 플러그 앤 플레이 모듈을 개발하는 것.
• CIFAR-10과 같은 표준 벤치마크에서 국소 채널 주의의 효과성을 검증하는 것.
• 전체 채널 결합을 줄이고 국소 특징 재보정을 통해 표현 능력을 향상시키는 SE 블록의 대안을 제공하는 것.

제안 방법

• SE 블록의 전역 평균 풀링 및 완전 연결 레이어를 1D 컨볼루션 레이어로 대체하여 인접한 채널 간의 상관관계를 학습하는 방식.
• 공간 차원을 압축하고 채널별 전역 기술자(Descriptor)를 생성하기 위해 전역 평균 풀링을 적용하는 방식.
• 커널 크기가 2×1과 1×1인 1D 컨볼루션 레이어를 사용하여 인접한 특징 채널 간의 국소 채널 의존성을 학습하는 방식.
• CNN의 각 컨볼루션 레이어 뒤에 C-Local 블록을 스택하여 엔드 투 엔드 학습이 가능하고 기존 아키텍처에 쉽게 통합할 수 있도록 하는 방식.
• 국소 채널 상관관계 점수를 기반으로 특징 맵의 스케일을 조정하기 위해 학습 가능한 가중치를 적용하여 채널 특징의 동적 재보정을 가능하게 하는 방식.
• 단일 1D 필터를 사용하여 이웃 채널 간의 관계를 명시적으로 모델링함으로써 전체 채널 주의보다 파라미터 결합을 줄이는 방식.

실험 결과

연구 질문

• RQ1 채널별 특징 상관관계는 CNN의 공간 국소성과 유사하게 국소성을 띠는가?
• RQ2 전역 채널 주의 메커니즘과 비교해 국소 채널 의존성을 모델링하면 성능 향상이 이루어지는가?
• RQ3 1D 컨볼루션 레이어가 채널별 주의를 학습하는 데 있어 완전 연결 레이어보다 더 효과적인가?
• RQ4 C-Local 블록은 아키텍처 수정 없이 다양한 CNN 아키텍처에 효과적으로 통합될 수 있는가?
• RQ5 국소 주의를 통해 전역 채널 결합을 줄이면 이미지 분류 작업에서 더 나은 일반화와 정확도를 달성할 수 있는가?

주요 결과

• 표준 CNN에 적용한 C-Local 블록은 CIFAR-10 테스트 세트에서 90.8%의 정확도를 기록하여 베이스라인 모델(88.7%)과 SE 블록(89.4%)을 모두 능가하였다.
• 수정된 ResNet 아키텍처에서 C-Local 블록은 88.3%의 정확도를 기록하였고, 베이스라인은 86.7%, SE 블록은 87.4%였다.
• C-Local 블록은 다양한 네트워크 아키텍처에서 일관된 성능 향상을 보이며 일반화 가능성과 효과성을 입증하였다.
• 1D 컨볼루션 레이어를 사용해 국소 채널 상관관계를 모델링함으로써 채널 특징의 전역 결합이 감소했으며, 이는 모델의 강건성 향상 가능성을 시사한다.
• 결과적으로 국소 채널 주의가 이미지 분류에 관련된 중요한 채널 의존성을 포착하는 데 있어 전역 주의보다 더 효과적임을 시사한다.
• 저자들은 딥러닝에서 전역 데이터 모델링에 의존하는 것보다 국소 데이터 관계(예: 국소 채널 상관관계)를 탐색하는 것이 더 유익할 수 있다고 결론 내린다.