[논문 리뷰] MoGA: Searching Beyond MobileNetV3

Xiangxiang Chu, Bo Zhang외 1명|arXiv (Cornell University)|2019. 08. 04.

Advanced Neural Network Applications참고 문헌 23인용 수 4

한 줄 요약

MoGA는 모바일 GPU 추론을 위해 특별히 최적화된 첫 번째 모바일 GPU 인식 신경망 아키텍처 탐색(NAS) 프레임워크를 제안한다. 정확도와 지연 시간을 우선시하고 파라미터 수를 보다 낮게 평가하는 가중치 기반 적합도 전략을 사용한다. 단지 12일 간의 GPU 학습으로, MnasNet보다 약 200배 적은 자원을 사용하여 MoGA-A(75.9% ImageNet Top-1 정확도) 및 MoGA-C와 같은 모델을 생성하였으며, 이는 유사한 FLOPs와 파라미터 수로 MobileNetV3보다 모바일 GPU에서 뛰어난 성능을 발휘한다.

ABSTRACT

The evolution of MobileNets has laid a solid foundation for neural network applications on mobile end. With the latest MobileNetV3, neural architecture search again claimed its supremacy in network design. Unfortunately, till today all mobile methods mainly focus on CPU latencies instead of GPU, the latter, however, is much preferred in practice for it has faster speed, lower overhead and less interference. Bearing the target hardware in mind, we propose the first Mobile GPU-Aware (MoGA) neural architecture search in order to be precisely tailored for real-world applications. Further, the ultimate objective to devise a mobile network lies in achieving better performance by maximizing the utilization of bounded resources. Urging higher capability while restraining time consumption is not reconcilable. We alleviate the tension by weighted evolution techniques. Moreover, we encourage increasing the number of parameters for higher representational power. With 200x fewer GPU days than MnasNet, we obtain a series of models that outperform MobileNetV3 under the similar latency constraints, i.e., MoGA-A achieves 75.9% top-1 accuracy on ImageNet, MoGA-B meets 75.5% which costs only 0.5 ms more on mobile GPU. MoGA-C best attests GPU-awareness by reaching 75.3% and being slower on CPU but faster on GPU.The models and test code is made available here https://github.com/xiaomi-automl/MoGA.

연구 동기 및 목표

• 실제로 더 널리 사용되는 CPU가 아닌 GPU 추론으로의 이동을 고려하여, 모바일 신경망 아키텍처 탐색의 격차를 해소하기 위함.
• 정확도와 지연 시간을 최적화하면서도 더 높은 파라미터 수를 허용하여 과소적합을 방지함으로써, 엄격한 지연 시간 및 자원 제약 내에서 모델 성능을 향상시키기 위함.
• 일회성 슈퍼넷과 지연 시간 룩업 테이블을 통해 NAS 탐색 비용을 극도로 낮춰, 다양한 모바일 플랫폼 간 효율적인 적응을 가능하게 하기 위함.
• 재학습 없이도 새로운 기기용으로 빠르게 재구성 가능한 유연한 '한 번만 학습' NAS 파이프라인을 개발하기 위함.

제안 방법

• 모바일 GPU 추론을 위해 특화된 Mobile GPU-Aware NAS(MoGA)를 도입하여, 기존의 CPU 중심 설계에서 GPU 지연 시간을 주요 최적화 목표로 전환한다.
• 정확도, 지연 시간, 파라미터 수를 조합한 가중치 기반 적합도 함수를 사용하며, 정확도와 지연 시간에 더 높은 가중치를 할당하고, 파라미터 수 증가에 보너스를 제공하여 표현 능력을 향상시킨다.
• 단일 경로 학습을 통한 일회성 슈퍼넷 학습을 활용해 메모리 및 계산 비용을 감소시켜, 최소한의 오버헤드로 효율적인 아키텍처 탐색을 가능하게 한다.
• 탐색 중 지연 시간 추정을 효율적으로 하기 위해 정확한 지연 시간 룩업 테이블을 구축하여, 실제 기기 측정에 비용이 많이 들지 않도록 한다.
• 가중치가 부여된 NSGA-II 알고리즘에서 계층적 변형을 적용해 탐색 효율성과 수렴 속도를 향상시키며, 무작위 변형 기반 베이스라인을 능가한다.
• 탐색과 학습을 분리함으로써, 동일한 슈퍼넷을 다양한 모바일 플랫폼에서 재사용할 수 있으며, 업데이트된 지연 시간 테이블을 사용해 경량의 재탐색만으로도 가능하게 한다.

실험 결과

연구 질문

• RQ1 실제 배포 환경에서 CPU 추론보다 더 널리 사용되는 모바일 GPU 추론을 위해 신경망 아키텍처 탐색이 효과적으로 적용될 수 있는가?
• RQ2 과소적합의 위험이 과적합보다 더 큰 상황에서, 정확도, 지연 시간, 파라미터 수 간의 상충 관계를 어떻게 최적화할 수 있는가?
• RQ3 기존에 학습된 슈퍼넷과 지연 시간 룩업 테이블을 재사용함으로써, 새로운 모바일 플랫폼에 대해 NAS 탐색 비용을 거의 제로 수준으로 낮출 수 있는가?
• RQ4 특히 GPU에서 지연 시간이 증가하지 않으면서도 파라미터 수를 늘리는 것이 모바일 모델의 성능 향상에 기여하는가?
• RQ5 실제 추론 속도와 정확도 측면에서 GPU 인식 아키텍처 탐색은 CPU 중심 접근 방식보다 어떻게 비교되는가?

주요 결과

• MoGA-A는 MobileNetV3와 유사한 지연 시간 제약 조건에서 ImageNet에서 75.9%의 Top-1 정확도를 달성했으며, 모바일 GPU에서 MobileNetV3를 능가한다.
• MoGA-B는 MoGA-A 대비 단지 0.5ms의 추가 지연 시간만을 유발하면서도 75.5%의 Top-1 정확도를 확보했다.
• MoGA-C는 FLOPs와 파라미터 수가 MobileNetV3와 동일한 조건에서 75.3%의 Top-1 정확도를 달성했지만, 모바일 GPU에서는 더 빠르고 CPU에서는 더 느리며, 이는 GPU 인식 설계의 타당성을 확인한다.
• MoGA 전체 탐색 파이프라인은 단지 12일 간의 GPU 사용으로 완료되었으며, 이는 MnasNet 대비 약 200배 적은 자원 소모를 의미한다. 이는 탐색 비용의 극적 감소를 보여준다.
• 일회성 슈퍼넷과 지연 시간 룩업 테이블을 통해 효율적인 '한 번만 학습' 배포가 가능하며, 새로운 기기용으로의 추가 탐색 비용은 o(1) 수준으로 낮아진다.
• 가중치가 부여된 NSGA-II 알고리즘에서 계층적 변형을 적용함으로써 탐색 효율성이 향상되었으며, 무작위 변형 기반 베이스라인을 능가하는 파레토 최적 해를 도출했다.