[논문 리뷰] NetAdapt: Platform-Aware Neural Network Adaptation for Mobile Applications

Tien-Ju Yang, Andrew Howard외 6명|arXiv (Cornell University)|2018. 04. 09.

Advanced Neural Network Applications참고 문헌 22인용 수 72

한 줄 요약

NetAdapt는 직접 지표(예: 지연)를 사용하고 경험적 측정을 통해 정확도를 극대화하면서 사전 학습된 DNN을 모바일 플랫폼의 자원 예산에 맞게 자동으로 간소화한다.

ABSTRACT

This work proposes an algorithm, called NetAdapt, that automatically adapts a pre-trained deep neural network to a mobile platform given a resource budget. While many existing algorithms simplify networks based on the number of MACs or weights, optimizing those indirect metrics may not necessarily reduce the direct metrics, such as latency and energy consumption. To solve this problem, NetAdapt incorporates direct metrics into its adaptation algorithm. These direct metrics are evaluated using empirical measurements, so that detailed knowledge of the platform and toolchain is not required. NetAdapt automatically and progressively simplifies a pre-trained network until the resource budget is met while maximizing the accuracy. Experiment results show that NetAdapt achieves better accuracy versus latency trade-offs on both mobile CPU and mobile GPU, compared with the state-of-the-art automated network simplification algorithms. For image classification on the ImageNet dataset, NetAdapt achieves up to a 1.7$ imes$ speedup in measured inference latency with equal or higher accuracy on MobileNets (V1&V2).

연구 동기 및 목표

• 직접 자원 지표를 사용하는 플랫폼 인식 네트워크 적응의 필요성을 동기화한다.
• 사전 학습된 네트워크를 지연 예산에 맞추고 정확도를 최대화하는 자동 반복 알고리즘 NetAdapt를 제안한다.
• CPU 및 GPU 모바일 플랫폼에서 MobileNets에 대해 NetAdapt가 최첨단 자동 단순화 방법보다 우수함을 보인다.

제안 방법

• 자원 예산 하에서 정확도를 최대화하는 비볼록 제약 최적화로 적응 문제를 형식화한다.
• 개별 계층에서 필터를 제거해 네트워크 제안을 반복적으로 생성하고, 대상 플랫폼에서 경험적 측정을 사용해 평가한다.
• 반복마다 제약을 점차 강화하는 자원 감소 스케줄을 사용하고 각 단계에서 가장 높은 정확도를 가진 네트워크를 선택한다.
• 단기 및 장기 파인튜닝을 활용해 단순화 후 정확도를 회복한다.
• 경험적 측정을 바탕으로 구축된 계층별 룩업 테이블을 통해 자원 소비를 신속히 추정하고 제안에 대해 빠르게 가이드를 제공한다.

실험 결과

연구 질문

• RQ1 타깃 모바일 플랫폼에서 측정된 직접 지표(예: 지연)가 간접 프록시(MACs)보다 더 나은 정확도-지연 트레이드오프를 이끌 수 있는가?
• RQ2 플랫폼별 모델링 없이도 사전 학습된 네트워크를 자동으로 적응시켜 지연 예산을 충족시킬 수 있는가?
• RQ3 NetAdapt 적응 과정에서 단기 파인튜닝과 장기 파인튜닝의 영향은 무엇인가?
• RQ4 경험적 측정에 의해 유도된 계층별 필터 제거가 MobileNet 변형들에서 확장 가능한 개선을 가져오는가?

주요 결과

• NetAdapt는 측정된 추론 지연에서 최첨단 자동 네트워크 단순화 방법보다 최대 1.7x 더 나은 속도와 같은 혹은 더 높은 정확도로 모바일 CPU 및 GPU에서 우수한 성능을 보인다.
• ImageNet 및 MobileNetV1의 경우 NetAdapt가 MobileNets(V1 및 V2)에서 유사하거나 더 높은 정확도로 지연에서 최대 1.7x의 가속을 달성했다.
• 실험은 NetAdapt가 다중계 모바일 CPU 및 GPU 플랫폼에서 곱하기 계수, MorphNet, ADC와 비교하여 더 나은 정확도-지연 트레이드오프를 제공함을 보여준다.
• 다양한 정확도–지연 트레이드오프를 갖는 네트워크 패밀리가 생성되어 동적 네트워크 선택이 가능하다.
• 애블레이션 결과는 직접 지표, 단기/장기 파인튜닝 및 자원 감소 일정의 중요성을 보여주며 성능 향상에 기여한다.