[논문 리뷰] InstaNAS: Instance-aware Neural Architecture Search

An-Chieh Cheng, Chieh Hubert Lin외 3명|arXiv (Cornell University)|2018. 11. 26.

Advanced Neural Network Applications참고 문헌 38인용 수 8

한 줄 요약

InstaNAS는 단일 아키텍처가 아닌 작업별 전문가 아키텍처의 분포를 학습하는 인스턴스 인식 신경망 아키텍처 탐색 프레임워크를 제안한다. 이는 입력 샘플의 복잡도에 따라 가장 적합한 모델로 동적으로 할당함으로써, CIFAR-10에서 MobileNetV2 대비 정확도 저하 없이 최대 48.8%의 지연 감소를 달성한다. 이는 인스턴스 수준의 특성에 맞춰 아키텍처 선택을 적응시킴으로써 다양한 데이터셋에서 우수한 성능을 유지한다.

ABSTRACT

Conventional Neural Architecture Search (NAS) aims at finding a single architecture that achieves the best performance, which usually optimizes task related learning objectives such as accuracy. However, a single architecture may not be representative enough for the whole dataset with high diversity and variety. Intuitively, electing domain-expert architectures that are proficient in domain-specific features can further benefit architecture related objectives such as latency. In this paper, we propose InstaNAS---an instance-aware NAS framework---that employs a controller trained to search for a "distribution of architectures" instead of a single architecture; This allows the model to use sophisticated architectures for the difficult samples, which usually comes with large architecture related cost, and shallow architectures for those easy samples. During the inference phase, the controller assigns each of the unseen input samples with a domain expert architecture that can achieve high accuracy with customized inference costs. Experiments within a search space inspired by MobileNetV2 show InstaNAS can achieve up to 48.8% latency reduction without compromising accuracy on a series of datasets against MobileNetV2.

연구 동기 및 목표

• 기존 NAS가 아키텍처 관련 메트릭(예: 지연 시간)을 최적화하는 데에 한계를 보이며, 이는 단일 고정 아키텍처로는 충분히 해결되지 않는 문제를 해결하기 위함이다.
• 입력 인스턴스별 아키텍처 다양성을 모델링할 경우 실세계 배포 환경에서 정확도-지연 시간 트레이드오���을 향상시킬 수 있는지 탐색하기 위함이다.
• 텍스처, 배경, 객체 복잡도와 같은 저수준 시각적 특성에 기반해 인스턴스별 전문가 아키텍처를 할당할 수 있는 컨트롤러를 개발하기 위함이다.
• 컨트롤러를 훈련시켜 아키텍처 분포에서 선택함으로써 동적이고 조건부 추론을 가능하게 하여 정확도를 희생시키지 않고 효율성을 향상시키기 위함이다.
• 인스턴스 인식 아키텍처 선택이 인간의 이미지 난이도 인식과 일치하며 측정 가능한 효율성 향상을 이끌어내는지 입증하기 위함이다.

제안 방법

• InstaNAS는 강화학습을 통해 메타그래프 형태의 후보 아키텍처를 탐색하는 컨트롤러를 사용하며, 각 입력 인스턴스에 고유한 아키텍처를 할당하도록 학습한다.
• 컨트롤러는 환경의 난이도를 점차 증가시키고 보상 간격의 하한을 감소시키는 동적 보상 함수를 사용하여 교육 과정 학습을 모방함으로써 훈련을 안정화시킨다.
• 공유 백본 구조를 통해 아키텍처 간 파라미터 공유를 가능하게 하여 효율적인 추론과 미리 보지 않은 아키텍처로의 전이를 지원한다.
• 컨트롤러 훈련 중에 작업 의존적 목표(예: 정확도)와 아키텍처 의존적 목표(예: 지연 시간)를 동시에 고려함으로써 다목적 최적화를 통합한다.
• 추론 단계에서는 입력의 시각적 특징에 기반해 컨트롤러가 도메인 전문가 아키텍처를 선택하여 조건부 계산과 맞춤형 지연을 가능하게 한다.
• 검색 공간은 MobileNetV2를 영감으로 삼으며, 깊이, 너비, 블록 구성으로 파arameter화되어 있어 모델 복잡도에 대해 세밀한 제어가 가능하다.

실험 결과

연구 질문

• RQ1 단일 아키텍처가 아닌 아키텍처 분포를 학습하는 NAS 프레임워크가 더 나은 정확도-지연 시간 트레이드오프를 달성할 수 있는가?
• RQ2 시각적 복잡도에 기반한 인스턴스 수준 아키텍처 선택이 정확도를 유지하면서 추론 효율성을 향상시킬 수 있는가?
• RQ3 컨트롤러가 인간의 이미지 난이도 인식과 일치하는 아키텍처를 할당할 수 있는가?
• RQ4 다양한 데이터셋(예: CIFAR-10, ImageNet, TinyImageNet)에서 동적 아키텍처 할당이 지연 시간 감소에 어떤 영향을 미치는가?
• RQ5 특히 자원 제약 환경에서 정확도를 훼손하지 않고 지연 시간을 얼마나 줄일 수 있는가?

주요 결과

• CIFAR-10에서 InstaNAS는 MobileNetV2 대비 평균 48.9%의 지연 시간 감소를 달성했으며, 정확도 저하 없음.
• CIFAR-100에서는 지연 시간을 40.2% 감소시켰으며, 정확도는 유사하게 유지함.
• TinyImageNet에서는 지연 시간을 35.2% 감소시켰고, 정확도 저하 없음.
• ImageNet에서는 정확도 손실 없이 지연 시간을 14.5% 감소시켰으며, 중간 수준의 정확도 손실(0.7%)을 감수하면 26.5%의 지연 감소를 달성함.
• 정성적 분석 결과, 컨트롤러는 혼잡한 배경, 높은 텍스처 변동성을 가진 복잡한 이미지에 대해 더 높은 지연 시간을 가지는 아키텍처를 할당함으로써 인간의 난이도 인식과 일치함.
• 컨트롤러는 배경 색상, 객체 위치, 텍스처 복잡도와 같은 저수준 시각 패턴을 기반으로 인스턴스를 그룹화하고, 해당 패턴에 맞는 전문가 아키텍처에 할당함.