[논문 리뷰] A Comprehensive Survey on Hardware-Aware Neural Architecture Search

Hadjer Benmeziane, Kaoutar El Maghraoui외 4명|arXiv (Cornell University)|2021. 01. 22.

Advanced Neural Network Applications참고 문헌 187인용 수 56

한 줄 요약

이 설문은 하드웨어 인식 NAS(HW-NAS)를 검토하고, 검색 공간, 전략, 가속화 및 하드웨어 비용 추정에 따라 방법을 분류하며, 도전과제와 향후 방향에 대해 논의한다.

ABSTRACT

Neural Architecture Search (NAS) methods have been growing in popularity. These techniques have been fundamental to automate and speed up the time consuming and error-prone process of synthesizing novel Deep Learning (DL) architectures. NAS has been extensively studied in the past few years. Arguably their most significant impact has been in image classification and object detection tasks where the state of the art results have been obtained. Despite the significant success achieved to date, applying NAS to real-world problems still poses significant challenges and is not widely practical. In general, the synthesized Convolution Neural Network (CNN) architectures are too complex to be deployed in resource-limited platforms, such as IoT, mobile, and embedded systems. One solution growing in popularity is to use multi-objective optimization algorithms in the NAS search strategy by taking into account execution latency, energy consumption, memory footprint, etc. This kind of NAS, called hardware-aware NAS (HW-NAS), makes searching the most efficient architecture more complicated and opens several questions. In this survey, we provide a detailed review of existing HW-NAS research and categorize them according to four key dimensions: the search space, the search strategy, the acceleration technique, and the hardware cost estimation strategies. We further discuss the challenges and limitations of existing approaches and potential future directions. This is the first survey paper focusing on hardware-aware NAS. We hope it serves as a valuable reference for the various techniques and algorithms discussed and paves the road for future research towards hardware-aware NAS.

연구 동기 및 목표

• 다양한 하드웨어 플랫폼을 위한 신경망 아키텍처 설계 자동화의 필요성을 제시한다.
• HW-NAS를 정의하고 자원 제약 배치에서의 중요성을 설명한다.
• 주요 차원(검색 공간, 전략, 가속화, 비용 추정)에 따른 HW-NAS의 분류 체계를 제공한다.
• 연구를 이끌 미래 연구 방향을 제시하기 위한 도전과제, 한계 및 전망 방향을 식별한다.

제안 방법

• 목표와 대상 플랫폼에 따라 HW-NAS 연구를 분류한다.
• Architecture Search Space와 Hardware Search Space를 정의하고 그 역할을 논의한다.
• HW-NAS를 다객체 최적화 문제로 형식화한다(단일/다중 목표, 제약 포함).
• 강화 학습, 진화 알고리즘, 그래디언트 기반 및 비미분 가능 기법, 가속화 방법을 포함한 탐색 전략을 검토한다.
• 하드웨어 비용 추정 방법과 지표를 논의하고, 측정되거나 예측되는 방식을 다룬다.
• 하드웨어 플랫폼 전반에 걸친 산업 도입 및 실무적 고려사항을 조사한다.

실험 결과

연구 질문

• RQ1 주요 HW-NAS 범주와 서로 다른 하드웨어 대상에 대한 목표는 무엇인가?
• RQ2 아키텍처 검색 공간과 하드웨어 검색 공간이, 검색 전략과 함께 HW-NAS의 효율성 및 실용성에 어떤 영향을 미치는가?
• RQ3 HW-NAS에서 하드웨어 비용 추정에 어떤 방법들이 존재하며, 플랫폼 간 HW-NAS 기반 아키텍처를 배치하는 데 어떤 도전과제가 있는가?

주요 결과

• HW-NAS는 제약된 장치에서 모델 정확도와 하드웨어 효율성의 균형을 가능하게 한다.
• HW-NAS 목표에 대한 분류 체계가 존재: 단일 대상 고정 구성, 단일 대상 다중 구성, 그리고 다중 대상.
• 두 가지 기본 검색 공간 유형은 Architecture Search Space와 Hardware Search Space이며, 다양한 하위 유형과 트레이드오프가 있다.
• 하드웨어 비용 추정 및 측정은 중요하며, 런타임 측정, 분석 모델, 예측 기법 등 다양한 전략이 있다.
• 본 고찰은 HW-NAS 연구 및 배치를 발전시키기 위한 도전과제, 한계 및 향후 방향을 식별한다.