[논문 리뷰] IGCV3: Interleaved Low-Rank Group Convolutions for Efficient Deep Neural Networks

Ke Sun, Mingjie Li외 2명|arXiv (Cornell University)|2018. 05. 31.

Advanced Neural Network Applications인용 수 100

한 줄 요약

IGCV3는 interleaved low-rank group convolutions를 통해 효율적인 Dense 커널을 구성하여 IGCV2 및 MobileNetV2 대비 CIFAR/ImageNet 및 COCO에서 정확도를 개선하면서 매개변수 수는 비슷하게 유지합니다.

ABSTRACT

In this paper, we are interested in building lightweight and efficient convolutional neural networks. Inspired by the success of two design patterns, composition of structured sparse kernels, e.g., interleaved group convolutions (IGC), and composition of low-rank kernels, e.g., bottle-neck modules, we study the combination of such two design patterns, using the composition of structured sparse low-rank kernels, to form a convolutional kernel. Rather than introducing a complementary condition over channels, we introduce a loose complementary condition, which is formulated by imposing the complementary condition over super-channels, to guide the design for generating a dense convolutional kernel. The resulting network is called IGCV3. We empirically demonstrate that the combination of low-rank and sparse kernels boosts the performance and the superiority of our proposed approach to the state-of-the-arts, IGCV2 and MobileNetV2 over image classification on CIFAR and ImageNet and object detection on COCO.

연구 동기 및 목표

• 경량 CNN 설계의 중복성을 줄인 동기를 제공합니다.
• 저랭크와 구조적 희소성을 혼합하여 Dense 컨볼루션 커널을 형성합니다.
• 커널 구성을 안내하는 느슨한 보완(슈퍼 채널) 조건을 도입합니다.
• 비전 벤치마크에서 IGCV3를 IGCV2 및 MobileNetV2와 경험적으로 평가합니다.

제안 방법

• 채널별 공간 합성곱을 쌓고, 폭을 줄였다가 복원하는 두 단계의 저랭크 그룹 포인트-와이즈 합성곱을 포함하며, 밀집 연결성을 유지하기 위한 순열을 갖는 블록으로 IGCV3를 제안합니다.
• 입력/출력 채널 수의 차이를 관리하기 위해 블록-희소 행렬과 슈퍼-채널을 통해 저랭크 그룹 합성곱을 표현합니다.
• 두 그룹 합성곱의 가지 구성을 안내하기 위해 슈퍼-채널에 대한 느슨한 보완 조건을 사용합니다.
• 학습/추론 중 메모리 절감을 위한 반전 병목구조 스타일을 따르는 역방향 IGCV3 변형(IGCV3-D)을 제공합니다.
• MobileNetV2 및 IGCV2와 비교하여 매개변수 수, CIFAR-10/100 및 ImageNet에서의 정확도, COCO에서의 객체 탐지 등을 평가합니다.

실험 결과

연구 질문

• RQ1 저랭크 그룹 합성곱과 교차 간섭되는 희소 구조를 결합하는 것이 고정된 매개변수 예산에서 이전 모바일 아키텍처 대비 정확도를 향상시키나요?
• RQ2 슈퍼 채널에 대한 느슨한 보완 조건이 IGCV3 블록의 설계와 성능에 어떤 영향을 미치는가?
• RQ3 분류 및 탐지 작업에서 더 깊은 구성과 더 넓은 구성 간의 트레이드오프는 무엇인가요?
• RQ4 표준 벤치마크(CIFAR, ImageNet, COCO)에서 IGCV3의 성능은 IGCV2 및 MobileNetV2에 비해 어떠한가요?

주요 결과

• IGCV3-D (두 개의 저랭크 그룹 합성곱을 갖춘 더 깊은 버전)는 2.2M 매개변수로 CIFAR-10에서 94.96%와 CIFAR-100에서 77.95%를 달성하여, 유사한 매개변수 수의 IGCV2 및 MobileNetV2 베이스라인을 능가합니다.
• ImageNet에서 IGCV3-D는 유사한 컴퓨트에서 72.2% top-1에 도달하여 여러 모바일 네트워크 베이스라인을 능가합니다.
• IGCV3는 MobileNetV2 매개변수의 50%로도 CIFAR 및 ImageNet에서 경쟁력 있거나 더 우수한 정확도를 제공하며, 저랭크와 희소 설계의 결합 덕분입니다.
• IGCV3는 CIFAR/imagenet 분류에서 MobileNetV2를 능가하고 백본(SSDLite2)으로 사용할 때 COCO 탐지를 개선하며 매개변수도 더 적습니다.
• 더 깊은 IGCV3 구성은 네트워크를 확장하는 것보다 깊이를 증가시키는 쪽에서 더 큰 이점을 얻으며, 이는 병목/ResNet 스타일의 결과와 일치합니다.
• 소거 연구는 두 번째 블록이 중간 ReLU와 두 개의 저랭크 그룹 합성곱을 사용해 용량과 메모리를 효과적으로 균형 잡는다는 것을 보여줍니다.