[논문 리뷰] BlockQNN: Efficient Block-wise Neural Network Architecture Generation

Zhao Zhong, Zichen Yang외 5명|arXiv (Cornell University)|2018. 08. 16.

Advanced Neural Network Applications참고 문헌 52인용 수 18

한 줄 요약

BlockQNN는 Q-학습과 에psilon-그리디 탐색을 사용한 강화학습 기반 프레임워크로, 효율적이고 블록 단위의 신경망 아키텍처 생성을 가능하게 한다. 이는 CIFAR-10에서 2.35%의 top-1 오차율을 기록하며 최신 기술 수준(SOTA) 성능을 달성하였고, ImageNet에서도 82.0%의 top-1 정확도를 달성하여 일반화 능력이 뛰어나며, 검색 공간을 줄이고 제한된 하드웨어 환경에서 분산 학습 및 조기 정지 기법을 통해 빠른 학습을 가능하게 한다.

ABSTRACT

Convolutional neural networks have gained a remarkable success in computer vision. However, most usable network architectures are hand-crafted and usually require expertise and elaborate design. In this paper, we provide a block-wise network generation pipeline called BlockQNN which automatically builds high-performance networks using the Q-Learning paradigm with epsilon-greedy exploration strategy. The optimal network block is constructed by the learning agent which is trained to choose component layers sequentially. We stack the block to construct the whole auto-generated network. To accelerate the generation process, we also propose a distributed asynchronous framework and an early stop strategy. The block-wise generation brings unique advantages: (1) it yields state-of-the-art results in comparison to the hand-crafted networks on image classification, particularly, the best network generated by BlockQNN achieves 2.35% top-1 error rate on CIFAR-10. (2) it offers tremendous reduction of the search space in designing networks, spending only 3 days with 32 GPUs. A faster version can yield a comparable result with only 1 GPU in 20 hours. (3) it has strong generalizability in that the network built on CIFAR also performs well on the larger-scale dataset. The best network achieves very competitive accuracy of 82.0% top-1 and 96.0% top-5 on ImageNet.

연구 동기 및 목표

• 수작업으로 설계된 신경망 아키텍처의 높은 계산 비용과 복잡성을 해결하기 위해 아키텍처 생성을 자동화한다.
• 층 단위 설계가 아닌 블록 단위 설계에 초점을 맞춰 최적의 네트워크 구조를 위한 검색 공간을 줄인다.
• 제한된 하드웨어 환경에서도 강화학습을 활용해 효율적이고 빠르며 일반화 가능한 신경망 아키텍처 탐색을 가능하게 한다.
• CIFAR 및 ImageNet과 같은 다양한 데이터셋 간에 자동 생성된 네트워크의 성능 향상과 이식 가능성 향상을 도모한다.
• 높은 정확도를 유지하면서도 확장성 있고 분산된 프레임워크를 개발하여 아키텍처 탐색 속도를 가속화한다.

제안 방법

• 프레임워크는 경험 재생과 에psilon-그리디 탐색을 활용한 Q-학습 에이전트를 사용하여, 단일 네트워크 블록의 최적 구성 레이어를 순차적으로 선택한다.
• 블록은 독립적으로 생성된 후 스택하여 전체 신경망을 구성함으로써 전체 검색 공간을 감소시킨다.
• 다중 GPU를 통해 분산 이종 학습 프레임워크를 활용해 Q-학습 과정을 가속화한다.
• 조기 정지 전략을 도입하여 높은 성능을 보이는 블록을 조기에 식별함으로써, 최종 정확도를 훼손하지 않으면서도 학습 효율성을 향상시킨다.
• 새로운 보상 함수를 통해 조기 정지된 모델이 수렴된 모델과 강한 상관관계를 유지하도록 보장함으로써 더 빠른 수렴을 가능하게 한다.
• 이 방법은 CIFAR-10, CIFAR-100, ImageNet에서의 이미지 분류 작업에 적용되었으며, 인물 키포인트 검출 작업에서의 전이 학습도 검증되었다.

실험 결과

연구 질문

• RQ1 강화학습 기반의 블록 단위 신경망 아키텍처 탐색이 이미지 분류 벤치마크에서 최신 기술 수준의 성능을 달성할 수 있는가?
• RQ2 제안된 BlockQNN 프레임워크는 층 단위 탐색 방법과 비교해 검색 공간과 계산 비용을 얼마나 줄이는가?
• RQ3 CIFAR와 같은 소규모 데이터셋에서 생성된 블록이 ImageNet과 같은 대규모 데이터셋으로 얼마나 잘 일반화되는가?
• RQ4 조기 정지 전략은 전체 학습 없이도 높은 성능을 보이는 블록을 효과적으로 식별할 수 있는가? 이를 통해 탐색 과정이 얼마나 가속화되는가?
• RQ5 분산 이종 Q-학습 프레임워크는 성능을 유지하면서도 제한된 하드웨어 환경에서 효율적인 학습을 가능하게 하는가?

주요 결과

• BlockQNN가 생성한 최적의 네트워크는 CIFAR-10에서 2.35%의 top-1 오차율을 기록하며, 기존 수작업 설계 네트워크를 초월한다.
• CIFAR-100에서 BlockQNN는 탐색 단계에서 무작위 탐색 대비 1% 이상 높은 성능을 기록하여 뛰어난 학습 효율성을 입증한다.
• 최적의 BlockQNN 모델은 ImageNet에서 82.0%의 top-1 정확도와 96.0%의 top-5 정확도를 달성하여 강력한 이식 가능성과 수작업 설계 모델과의 경쟁력을 입증한다.
• 더 빠른 버전의 BlockQNN는 단 1개의 GPU만을 사용하여 20시간 내에 완료되며, 3일간 32개의 GPU를 사용하는 전체 버전과 유사한 성능을 기록한다.
• 프레임워크는 전이 학습 성공을 이끌어내었으며, 자동 생성된 키포인트 검출 모델은 COCO에서 70.5 AP를 기록하여 최신 기술 수준의 아워가즈 네트워크(70.1 AP)를 초월한다.
• 실험 결과에 따르면 순차적 블록 연결 방식이 최적은 아님을 확인하여, 성능 향상을 위한 다른 연결 패턴이 존재할 수 있음을 시사한다.