[논문 리뷰] ADC: Automated Deep Compression and Acceleration with Reinforcement Learning.

Yihui He, Song Han|arXiv (Cornell University)|2018. 02. 10.

Advanced Neural Network Applications참고 문헌 36인용 수 59

한 줄 요약

이 논문은 모바일 배포를 위한 신경망 모델 압축을 자동화하는 강화학습 기반 방법인 자동 딥 압축(ADC)을 제안한다. 정확도-압축-속도 트레이드오프 공간을 효율적으로 탐색함으로써 ADC는 최신 기술 수준의 성능을 달성한다. VGG-16에서 4× FLOPs 감소 시 손으로 설계된 방법보다 2.7% 높은 정확도를 기록하였고, MobileNet에서는 정확도 손실을 최소화하면서 2× FLOPs 감소와 함께 1.65× 속도 향상을 달성하였다.

ABSTRACT

Model compression is an effective technique facilitating the deployment of neural network models on mobile devices that have limited computation resources and a tight power budget. However, conventional model compression techniques use hand-crafted features and require domain experts to explore the large design space trading off model size, speed, and accuracy, which is usually sub-optimal and time-consuming. In this paper, we propose Automated Deep Compression (ADC) that leverages reinforcement learning in order to efficiently sample the design space and greatly improve the model compression quality. We achieved state-of-the-art model compression results in a fully automated way without any human efforts. Under 4x FLOPs reduction, we achieved 2.7% better accuracy than hand-crafted model compression method for VGG-16 on ImageNet. We applied this automated, push-the-button compression pipeline to MobileNet and achieved a 2x reduction in FLOPs, and a speedup of 1.49x on Titan Xp and 1.65x on an Android phone (Samsung Galaxy S7), with negligible loss of accuracy.

연구 동기 및 목표

• 전문가가 수작업으로 조정이 필요한 비효율적이고 최적화되지 않은 수작업 모델 압축 기법의 문제를 해결하기 위해.
• 모델 크기, 추론 속도, 정확도를 균형 잡는 큰 설계 공간의 탐색을 자동화하기 위해.
• 모바일 배포를 위한 완전 자동화된, 수동 조정 없이 한 번의 버튼 클릭만으로도 가능한 압축을 가능하게 하기 위해.
• 기존의 전문가 중심의 방법으로는 달성할 수 없는 수준을 초월한 압축 품질 향상하기 위해.

제안 방법

• ADC는 강화학습을 활용해 모델 압축 공간을 탐색하며, 압축 결정을 순차적 행동으로 간주한다.
• 에이전트는 채널 프루닝, 지식 증류, 양자화와 같은 최적의 압축 연산을 선택하는 데 학습한다.
• 상태 공간은 현재 모델의 특성(예: FLOPs, 정확도)을 표현하며, 행동 공간에는 압축 연산이 포함된다.
• 보상 함수는 정확도를 극대화하고 FLOPs 및 모델 크기를 최소화하도록 설계되어 종단 간 최적화를 가능하게 한다.
• 압축 정책을 최적화하기 위해 정책 기반 강화학습 방법을 사용해 엔드 투 엔드로 학습된다.
• 파이프라인은 완전히 자동화되어 있어 수동 조정이나 도메인 전문 지식이 필요하지 않다.

실험 결과

연구 질문

• RQ1 강화학습을 활용해 수동 조정 없이 모델 압축 과정을 효과적으로 자동화할 수 있는가?
• RQ2 RL 기반 접근법이 정확도와 효율성 측면에서 수작업 압축 기법을 능가하는가?
• RQ3 이 방법은 VGG-16 및 MobileNet과 같은 다양한 아키텍처에 일반화 가능한가?
• RQ4 이 방법은 어떤 정도로 FLOPs를 감소시킬 수 있으며, 이 과정에서 모바일 플랫폼에서 높은 정확도를 유지할 수 있는가?

주요 결과

• 4× FLOPs 감소 조건에서, ADC는 ImageNet을 사용한 VGG-16에서 수작업 압축 방법보다 2.7% 높은 상위-1 정확도를 달성하였다.
• MobileNet의 경우, ADC는 FLOPs를 2× 감소시키면서도 정확도 손실이 거의 없었다.
• Titan Xp GPU에서 압축된 MobileNet 모델은 1.49× 속도 향상을 기록하였다.
• 안드로이드 폰(Samsung Galaxy S7)에서 모델은 정확도 저하를 최소화하면서 1.65× 속도 향상을 달성하였다.
• 이 방법은 완전히 자동화된 방식으로 최신 기술 수준의 압축 품질을 입증하였다.
• 이 접근법은 전문가 조정의 필요성을 제거하여 버튼 클릭만으로도 가능한 압축 파이프라인을 실현하였다.