[논문 리뷰] HENet:A Highly Efficient Convolutional Neural Networks Optimized for Accuracy, Speed and Storage

Qiuyu Zhu, Ruixin Zhang|arXiv (Cornell University)|2018. 03. 07.

Advanced Neural Network Applications참고 문헌 15인용 수 3

한 줄 요약

HENet는 그룹 컨볼루션과 채널 셔플링을 조합하고 블록 내에서 잔차 연결과 밀집 연결을 통합하며 풀링 레이어를 제거하여 정확도, 속도, 모델 크기 측면에서 최적화된 매우 효율적인 컨볼루션 신경망 아키텍처를 제안한다. 실험 결과 HENet는 CIFAR-10/100 및 SVHN에서 ShuffleNet 대비 100% 이상 높은 효율성을 확보하면서도 경쟁 가능한 정확도를 유지한다.

ABSTRACT

In order to enhance the real-time performance of convolutional neural networks(CNNs), more and more researchers are focusing on improving the efficiency of CNN. Based on the analysis of some CNN architectures, such as ResNet, DenseNet, ShuffleNet and so on, we combined their advantages and proposed a very efficient model called Highly Efficient Networks(HENet). The new architecture uses an unusual way to combine group convolution and channel shuffle which was mentioned in ShuffleNet. Inspired by ResNet and DenseNet, we also proposed a new way to use element-wise addition and concatenation connection with each block. In order to make greater use of feature maps, pooling operations are removed from HENet. The experiments show that our model's efficiency is more than 1 times higher than ShuffleNet on many open source datasets, such as CIFAR-10/100 and SVHN.

연구 동기 및 목표

• 정확도, 속도, 모델 크기 측면에서 효율성을 향상시켜 실시간 추론 요구 증가에 대응하기 위해.
• ShuffleNet, ResNet, DenseNet 등의 기존 경량 모델의 한계를 극복하기 위해 이들의 강점을 통합한 통합 아키텍처를 개발하기 위해.
• 공간적 특징 정보를 보존하고 특징 맵 활용도를 향상시키기 위해 풀링 연산을 제거하기 위해.
• 계산 및 스토리지 비용을 크게 줄이면서도 높은 성능을 유지하는 모델을 개발하기 위해.

제안 방법

• 각 블록 내에서 요소별 덧셈(잔차 스타일)과 연결(concatenation, 밀집 스타일) 연결을 결합한 새로운 블록 설계를 도입하여 특징 재사용과 기울기 흐름을 향상시킨다.
• 채널 셔플링을 적용한 그룹 컨볼루션을 활용하여 계산량과 파라미터 수를 줄이면서도 채널 간 상호정보를 유지한다.
• 풀링 레이어를 완전히 제거하여 공간 해상도를 유지하고 네트워크 전반에서 특징 맵 활용도를 극대화한다.
• ResNet과 DenseNet 양쪽의 영감을 받은 하이브리드 스킵 연결 전략을 사용하여 계산 오버헤드를 증가시키지 않으면서도 표현 능력을 향상시킨다.
• 기존 모델의 아키텍처 분석을 통해 효율성 트레이드오프에 초점을 맞춘 네트워크 아키텍처 최적화를 수행한다.
• 중복 최소화와 높은 파라미터 효율성에 기반한 설계를 통해 스토리지 및 추론 시간을 줄인다.

실험 결과

연구 질문

• RQ1 그룹 컨볼루션과 채널 셔플링을 효과적으로 조합하여 정확도를 희생시키지 않고 모델 효율성을 향상시킬 수 있는가?
• RQ2 잔차 연결과 밀집 연결의 통합이 경량 CNN에서 특징 학습을 얼마나 향상시킬 수 있는가?
• RQ3 풀링 레이어를 제거하는 것이 소규모 데이터셋에서 특징 표현과 전체 모델 성능에 어떤 영향을 미치는가?
• RQ4 통합 아키텍처가 ShuffleNet과 같은 전용 경량 모델보다 속도, 정확도, 모델 크기 측면에서 뛰어나게 성능을 냈을 수 있는가?
• RQ5 기본 벤치마크에서 FLOPs, 파라미터 수, 추론 속도 측면에서 제안된 아키텍처는 최신 기술 모델과 비교해 어떻게 성능을 내는가?

주요 결과

• HENet는 FLOPs 대비 정확도 비율을 기준으로 CIFAR-10, CIFAR-100, SVHN 데이터셋에서 ShuffleNet 대비 100% 이상 높은 효율성을 확보한다.
• 모델의 복잡도가 감소함에도 불구하고 CIFAR-10 및 CIFAR-100에서 경쟁 가능한 top-1 정확도를 유지하며, 최신 기술 경량 모델을 뛰어넘거나 동등하게 성능을 내며 경쟁력을 확보한다.
• 풀링 레이어 제거로 인해 공간적 특징 맵 보존이 향상되어 소규모 이미지 인식 작업에서 성능 향상에 기여한다.
• 블록 내부에서 잔차 연결과 밀집 연결을 통합함으로써 특징 전파와 기울기 흐름이 향상되어 학습 안정성과 정확도가 향상된다.
• 기본 모델 대비 모델 크기와 FLOPs를 크게 줄여 자원 제약이 있는 장치에 배포하기에 적합하다.
• 다양한 데이터셋에 걸쳐 뛰어난 일반화 성능을 보이며, 아키텍처의 강건성과 확장성을 확인한다.