[논문 리뷰] ShuffleNet V2: Practical Guidelines for Efficient CNN Architecture Design

Ningning Ma, Xiangyu Zhang외 2명|ArXiv.org|2018. 07. 30.

Advanced Neural Network Applications참고 문헌 53인용 수 236

한 줄 요약

이 논문은 대상 플랫폼에서의 속도/지연이 CNN의 직접적 효율성 지표임을 주장하고, 실용 지침에 의해 안내된 ShuffleNet V2를 소개하여 이전 경량 모델들보다 더 나은 속도-정확도 트레이드오프를 달성한다.

ABSTRACT

Currently, the neural network architecture design is mostly guided by the \emph{indirect} metric of computation complexity, i.e., FLOPs. However, the \emph{direct} metric, e.g., speed, also depends on the other factors such as memory access cost and platform characterics. Thus, this work proposes to evaluate the direct metric on the target platform, beyond only considering FLOPs. Based on a series of controlled experiments, this work derives several practical \emph{guidelines} for efficient network design. Accordingly, a new architecture is presented, called \emph{ShuffleNet V2}. Comprehensive ablation experiments verify that our model is the state-of-the-art in terms of speed and accuracy tradeoff.

연구 동기 및 목표

• FLOPs를 넘는 아키텍처 설계를 동기화된 하드웨어의 직접 속도 평가를 통해 검토합니다.
• 실세계 런타임 성능과 상관관계가 있는 실용적 지침을 식별합니다.
• 이 지침에 부합하는 효율적인 네트워크 아키텍처(ShuffleNet V2)를 제안합니다.
• 새로운 아키텍처가 플랫폼과 워크로드 전반에서 우수한 속도-정확도 트레이드오프를 달성함을 입증합니다.

제안 방법

• GPU 및 ARM에서 최적화된 라이브러리를 활용한 대표 네트워크(ShuffleNet v1 및 MobileNet v2)의 런타임 성능 평가.
• 메모리 접근 비용(MAC), 그룹 컨볼루션, 네트워크 조각화, 요소별 연산에 초점을 맞춘 제어 실험에서의 지침 도출.
• 동일 폭 채널(G1)을 유지하면서 MAC를 감소(G2)하고 조각화를 줄이는(G3) 채널 분할 및 shuffle 기반 빌딩 블록 제안.
• 과도한 조각화와 불필요한 요소별 연산을 피하는 ShuffleNet V2 블록(G4)을 구성합니다.
• FLOPs 수준 및 작업(ImageNet 분류; COCO 탐지) 전반에서 ShuffleNet V2를 다수의 기준선과 비교 벤치마킹합니다.
• SE 모듈과의 호환성 및 대형 모델로의 확장 가능성에 대해 논의합니다.

실험 결과

연구 질문

• RQ1 GPU 및 ARM 기기의 직접 속도 지표가 경량 CNN의 FLOPs와 어떤 관계가 있는가?
• RQ2 대상 플랫폼에서 정확도를 포기하지 않으면서 실제 속도를 극대화하는 아키텍처 지침은 무엇인가?
• RQ3 채널 분할/셔플 빌딩 블록 설계가 낮은 메모리 접근 비용과 감소된 조각화를 통해 높은 정확도를 제공할 수 있는가?
• RQ4 ShuffleNet V2는 ShuffleNet v1, MobileNet v2 및 Xception과 비교해 일반적으로 사용되는 복잡도 예산에서 어떤 성능 차이를 보인가?
• RQ5 ImageNet 분류 외에도 COCO 객체 탐지와 같은 다운스트림 작업에 대해 ShuffleNet V2가 효과적인가?

주요 결과

• 직접 속도는 플랫폼 특성과 메모리 접근과 상관 관계가 있으며 FLOPs만으로는 충분하지 않다.
• 입력/출력 채널이 동일한 균형 잡힌 채널 폭은 메모리 접근 비용을 최소화하고 속도를 향상시킨다.
• 과도한 그룹 컨볼루션은 MAC를 증가시키고 GPU 및 ARM CPU의 속도를 느리게 하므로 중간 수준의 그룹화가 바람직하다.
• 네트워크 조각화를 줄이고 과도한 작고 조각난 연산을 피하면 병렬성 및 속도가 특히 GPU에서 개선된다.
• 병목 단위에서 특정 요소별 연산(ReLU, 쇼트컷)을 제거하면 테스트 설정에서 높은 정확도 손실 없이 속도 향상을 가져온다.
• ShuffleNet V2는 일반적으로 사용되는 복잡도 예산에서 ShuffleNet v1, MobileNet v2 및 Xception에 비해 우수한 속도-정확도 트레이드오프를 달성하며 COCO 객체 탐지에도 경쟁력 있는 성능으로 일반화된다.