[논문 리뷰] Rethinking Channel Dimensions for Efficient Model Design

Dongyoon Han, Sangdoo Yun외 2명|arXiv (Cornell University)|2020. 07. 02.

Advanced Neural Network Applications참고 문헌 81인용 수 13

한 줄 요약

이 논문은 효율적인 신경망 설계를 위해 기존의 스테이지 단위 채널 확장을 대체하는 선형적이고 계층 인덱스 기반의 채널 구성 방식을 제안한다. FLOP 제약 조건 하에서 특성 질서를 분석하고 탐색함으로써, 저자들은 이 간단한 재매arameterization이 ImageNet 및 전이 작업에서 정확도를 크게 향상시킴을 보여주며, 파rameter 수와 FLOPs가 더 적은 상태에서 최신 기술 모델들, 즉 NAS 기반 및 EfficientNet 변종을 능가한다.

ABSTRACT

Designing an efficient model within the limited computational cost is challenging. We argue the accuracy of a lightweight model has been further limited by the design convention: a stage-wise configuration of the channel dimensions, which looks like a piecewise linear function of the network stage. In this paper, we study an effective channel dimension configuration towards better performance than the convention. To this end, we empirically study how to design a single layer properly by analyzing the rank of the output feature. We then investigate the channel configuration of a model by searching network architectures concerning the channel configuration under the computational cost restriction. Based on the investigation, we propose a simple yet effective channel configuration that can be parameterized by the layer index. As a result, our proposed model following the channel parameterization achieves remarkable performance on ImageNet classification and transfer learning tasks including COCO object detection, COCO instance segmentation, and fine-grained classifications. Code and ImageNet pretrained models are available at https://github.com/clovaai/rexnet.

연구 동기 및 목표

• 기존의 스테이지 단위 채널 구성 방식이 경량 네트워크에서 모델 정확도를 제한하는가를 조사하기 위해.
• 고정된 계산 비용 하에서 성능을 향상시키는 더 효과적인 채널 구성 방식을 규명하기 위해.
• 다양한 모델 아키텍처와 작업에 일반화 가능한 매개변수화된 채널 구성 방식을 개발하기 위해.
• 제안된 구성이 ImageNet 및 하류 전이 학습 작업에서 효과적으로 작동하는지 검증하기 위해.

제안 방법

• 저자들은 출력 특성의 질서를 분석하여 계층의 표현 능력을 추정하며, 무작위로 생성된 네트워크에서 평균 질서를 사용해 채널 확장을 설계하는 데 가이드한다.
• FLOP 제약 조건 하에서 네트워크 아키텍처 탐색을 수행하며, 빌딩 블록 탐색이 아닌 채널 구성에 중점을 둔다.
• 최적의 채널 구성은 블록 인덱스의 선형 함수로 나타나며, 이는 이후 전체 네트워크의 매개변수화에 사용된다.
• 제안된 ReXNet 모델은 이 선형 채널 매개변수화를 MobileNetV2에 적용하여 효율적이고 정확한 아키텍처 설계를 가능하게 한다.
• 절단 실험, 질서 시각화, COCO 및 세분화된 데이터셋에서의 전이 학습을 통해 방법의 유효성을 검증한다.
• 고정된 깊이와 FLOP 제약 조건 하에서 탐색 과정을 반복함으로써, 다양한 계산 예산 하에서도 선형 구성이 우수한 성능을 보임을 확인한다.

실험 결과

연구 질문

• RQ1 기존의 스테이지 단위 채널 구성 방식이 계산 효율성은 높지만, 경량 모델의 정확도를 제한하는가?
• RQ2 특성 질서 분석과 아키텍처 탐색을 통해 더 효과적인 채널 구성이 발견될 수 있는가?
• RQ3 블록 인덱스의 선형 함수가 조각별 상수 또는 스테이지 단위 구성보다 채널 차원에 더 나은 매개변수화인가?
• RQ4 특성 질서로 측정했을 때, 제안된 채널 구성이 모델 표현 능력에 어떻게 영향을 주는가?
• RQ5 결과로 도출된 모델이 ImageNet에서 최신 기술 성능을 달성하고, 객체 검출 및 세분화된 분류와 같은 하류 작업으로 전이 가능한가?

주요 결과

• 선형 채널 매개변수화를 적용한 제안된 ReXNet은 ImageNet에서 77.6%의 top-1 정확도를 달성하여, EfficientNet-B0(77.3%) 및 기타 NAS 기반 모델을 능가한다.
• ReXNet (×1.0)는 파라미터 수가 1/5에 불과함에도 불구하고, Food-101, Stanford Cars, FGVC Aircraft, Oxford Flowers-102에서 Fine-tuning 성능에서 ResNet50을 초월한다.
• COCO 인스턴스 세그멘테이션에서 ReXNet (×0.9)는 EfficientNet-B0보다 +0.6pp 마스크 AP와 +0.5pp 박스 AP를 확보했으며, 파라미터 수와 FLOPs가 더 적다.
• ReXNet (×2.2)는 계산 복잡도를 감소시켰음에도 불구하고 ResNet50보다 +3.2pp 마스크 AP와 +3.5pp 박스 AP를 확보했다.
• 질서 시각화 결과 ReXNet은 핵심 노름이 더 크고, 더 큰 특이값을 가지며, 이는 더 높은 모델 표현 능력을 의미한다.
• 고정된 깊이와 FLOP 제약 조건 하에서의 아키텍처 탐색에서 선형 채널 구성이 일관되게 최상의 성능을 보이며, 이는 방법의 강건성을 확인한다.