[논문 리뷰] AlphaX: eXploring Neural Architectures with Deep Neural Networks and Monte Carlo Tree Search

Linnan Wang, Yiyang Zhao외 3명|arXiv (Cornell University)|2019. 03. 26.

Advanced Neural Network Applications참고 문헌 57인용 수 57

한 줄 요약

AlphaX는 분산 몬테카를로 트리 탐색과 메타-DNN을 이용해 신경망 아키텍처 검색을 자동화하고, CIFAR-10 및 ImageNet에서 빠른 전역 최적화와 강한 정확도를 달성하며, NASBench-101에서 확장 가능한 성능을 보여준다.

ABSTRACT

Neural Architecture Search (NAS) has shown great success in automating the design of neural networks, but the prohibitive amount of computations behind current NAS methods requires further investigations in improving the sample efficiency and the network evaluation cost to get better results in a shorter time. In this paper, we present a novel scalable Monte Carlo Tree Search (MCTS) based NAS agent, named AlphaX, to tackle these two aspects. AlphaX improves the search efficiency by adaptively balancing the exploration and exploitation at the state level, and by a Meta-Deep Neural Network (DNN) to predict network accuracies for biasing the search toward a promising region. To amortize the network evaluation cost, AlphaX accelerates MCTS rollouts with a distributed design and reduces the number of epochs in evaluating a network by transfer learning guided with the tree structure in MCTS. In 12 GPU days and 1000 samples, AlphaX found an architecture that reaches 97.84\% top-1 accuracy on CIFAR-10, and 75.5\% top-1 accuracy on ImageNet, exceeding SOTA NAS methods in both the accuracy and sampling efficiency. Particularly, we also evaluate AlphaX on NASBench-101, a large scale NAS dataset; AlphaX is 3x and 2.8x more sample efficient than Random Search and Regularized Evolution in finding the global optimum. Finally, we show the searched architecture improves a variety of vision applications from Neural Style Transfer, to Image Captioning and Object Detection.

연구 동기 및 목표

• 신경망 아키텍처 설계에서 인간의 수작업 노력을 줄이고 NAS 탐색 효율성을 가속화하는 동기를 부여한다.
• 샘플링과 평가를 안내하기 위해 MCTS와 예측적 메타-DNN을 결합한 확장 가능한 NAS 프레임워크를 제안한다.
• 아키텍처 탐색 중에 생성된 데이터를 사용하여 Meta-DNN의 엔드-투-엔드 학습을 입증한다.
• 네트워크 평가를 가속화하고 분산된 대규모 탐색을 가능하게 하는 전이 학습을 보여준다.

제안 방법

• 온라인 통계 N(s,a)와 Q(s,a)를 사용하여 아키텍처 탐색을 안내하기 위해 몬테카를로 트리 탐색을 사용한다.
• 아키텍처 성능을 예측하고 롤아웃을 가속화하기 위해 메타-DNN을 통합한다; 탐색 중에 수집된 데이터로 메타-DNN을 업데이트한다(엔드-투-엔드 학습).
• NASNet 및 NASBench 아키텍처를 메타-DNN 입력을 위한 고정 길이 벡터로 인코딩한다.
• 자식 아키텍처를 훈련할 때 부모 아키텍처의 가중치를 재사용하는 전이 학습을 포함한다.
• 마스터 스케줄러와 다수의 GPU 트레이너에 걸쳐 탐색을 분산시키고, 예측 정확도와 실제 정확도를 사용한 2단계 역전파를 수행한다.

실험 결과

연구 질문

• RQ1 확장 가능한 MCTS 기반 에이전트가 NAS 작업에서 무작위 검색 및 탐욕적 방법보다 우수한 성능을 발휘할 수 있는가?
• RQ2 메타-DNN이 보이지 않는 아키텍처의 성능을 정확하게 예측하여 탐색을 가속할 수 있는가?
• RQ3 전이 학습이 NAS에서 평가 속도와 최종 아키텍처 품질에 어떤 영향을 미치는가?
• RQ4 분산 학습이 NAS 탐색 효율성과 확장성에 미치는 영향은 무엇인가?

주요 결과

• AlphaX는 NASBench-101에서 최적 아키텍처를 찾는 데 무작위 검색(Random Search) 및 Regularized Evolution보다 최대 3배 빠르다.
• CIFAR-10에서 AlphaX는 높은 정확도를 달성하고 ImageNet과 같은 대규모 데이터셋에서도 경쟁력 있는 결과를 보여준다.
• 메타-DNN은 정확한 성능 추정치를 제공하고 더 informed 롤아웃을 가능하게 하여 탐색 효율을 향상시킨다.
• 전이 학습은 자식 아키텍처가 목표 정확도에 도달하는 데 필요한 에포크 수를 크게 줄인다.
• 분산된 AlphaX는 마스터 노드와 다수의 GPU 클라이언트를 통해 대규모 공간에서도 효과적으로 유지·탐색 가능한 확장 가능한 NAS를 가능하게 한다.