[논문 리뷰] GaterNet: Dynamic Filter Selection in Convolutional Neural Network via a Dedicated Global Gating Network.

Zhourong Chen, Yang Li외 2명|arXiv (Cornell University)|2018. 11. 27.

Advanced Neural Network Applications참고 문헌 24인용 수 21

한 줄 요약

GaterNet는 입력에 따라 조건이 달라지는 조건부 조건에서, 전용 글로벌 게이터 네트워크를 사용하여 컨볼루션 네트워크(CNNs)의 동적 필터 선택 메커니즘을 제안한다. 이 메커니즘은 이진 게이트를 생성하여 백본 네트워크의 특정 필터를 활성화한다. 이 방법은 모델의 일반화 능력을 향상시키며, CIFAR-10에서 최고 성능을 기록하고 ImageNet에서도 일관된 성능 향상을 달성한다.

ABSTRACT

The concept of conditional computation for deep nets has been proposed previously to improve model performance by selectively using only parts of the model conditioned on the sample it is processing. In this paper, we investigate input-dependent dynamic filter selection in deep convolutional neural networks (CNNs). The problem is interesting because the idea of forcing different parts of the model to learn from different types of samples may help us acquire better filters in CNNs, improve the model generalization performance and potentially increase the interpretability of model behavior. We propose a novel yet simple framework called GaterNet, which involves a backbone and a gater network. The backbone network is a regular CNN that performs the major computation needed for making a prediction, while a global gater network is introduced to generate binary gates for selectively activating filters in the backbone network based on each input. Extensive experiments on CIFAR and ImageNet datasets show that our models consistently outperform the original models with a large margin. On CIFAR-10, our model also improves upon state-of-the-art results.

연구 동기 및 목표

• 입력 기반 동적 필터 선택을 통해 CNN의 일반화 능력을 향상시키기.
• 다른 필터가 다양한 입력 유형을 처리하도록 전문화시킴으로써 모델의 해석 가능성 향상.
• 깊은 CNN에서 조건부 계산을 위한 단순하면서도 효과적인 프레임워크 개발.
• 기준 CNN 및 기존의 동적 필터 방법보다 벤치마크 데이터셋에서 승리하기.

제안 방법

• 입력 특징에 기반하여 필터 활성화를 위한 이진 게이트를 생성하기 위해 글로벌 게이터 네트워크를 도입한다.
• 게이터 네트워크는 입력의 전역 통계를 처리하여, 백본 내 필터를 활성화할지 여부를 결정하는 게이트 값을 생성한다.
• 필터 선택은 동적이고 입력 기반으로 이루어지며, 이로써 다양한 필터가 서로 다른 입력 패턴에 반응할 수 있다.
• 백본 CNN은 표준 컨볼루션 연산을 수행하지만, 게이터 결정에 따라 활성화된 필터들만 출력에 기여한다.
• 전체 시스템은 표준 분류 손실을 사용하여 엔드 투 엔드로 훈련된다.
• 이진 게이팅은 계산 효율성과 모델 희소성(스패arsity)을 가능하게 하여 추론 효율성을 향상시킨다.

실험 결과

연구 질문

• RQ1 입력 기반 동적 필터 선택이 CNN의 일반화 능력과 성능 향상에 기여할 수 있는가?
• RQ2 글로벌 게이터 네트워크는 다른 동적 라우팅 메커니즘과 비교해 필터 선택에서 어떤가?
• RQ3 동적 필터 선택이 입력 유형에 따라 필터가 전문화되도록 함으로써 모델의 해석 가능성 향상에 기여할 수 있는가?
• RQ4 CIFAR-10 및 ImageNet과 같은 표준 벤치마크에서 어떤 성능 향상이 달성될 수 있는가?
• RQ5 기존의 동적 CNN 접근법과 비교해 제안된 방법이 최고 성능(SOTA)을 달성하는가?

주요 결과

• GaterNet은 CIFAR-10 및 ImageNet 데이터셋 모두에서 표준 CNN보다 일관된 성능 향상을 기록한다.
• CIFAR-10에서 모델는 최고 성능(SOTA) 결과를 초월하며 강력한 일반화 능력을 입증한다.
• 동적 필터 선택 메커니즘은 입력 유형에 따라 전문화된 필터 행동을 가능하게 하여 모델의 해석 가능성 향상에 기여한다.
• 이진 게이트의 사용은 정확도를 훼손하지 않으면서 계산 효율성과 모델 희소성(스패arsity)을 제공한다.
• 글로벌 게이터 네트워크는 입력 특성에 따라 입력을 적절한 필터로 라우팅하는 것을 효과적으로 학습한다.
• 이 프레임워크는 단순하면서도 효과적이며, 다양한 벤치마크에서 강력한 실험적 결과를 보여준다.