[논문 리뷰] Neural Architecture Refinement: A Practical Way for Avoiding Overfitting in NAS

Yang Jiang, Cong Zhao외 2명|arXiv (Cornell University)|2019. 05. 07.

Advanced Neural Network Applications참고 문헌 45인용 수 4

한 줄 요약

이 논문은 강화학습 기반 신경망 아키텍처 탐색(NAS)에서 과적합을 완화하기 위해 연산자와 스킵 연결의 최적화를 분리하는 Neural Architecture Refinement(NAR) 방법을 제안한다. 두 요소를 동시에 검색하는 대신, 스킵 연결을 고정하고 오직 연산자만을 정밀하게 조정함으로써 검색 공간의 복잡도를 감소시키고 보상 추정 정확도를 향상시키며, 이미지 분류 및 얼굴 인식 작업 전반에서 더 적은 FLOPs와 파라미터로 최신 기술 수준의 성능을 달성한다.

ABSTRACT

Neural architecture search (NAS) is proposed to automate the architecture design process and attracts overwhelming interest from both academia and industry. However, it is confronted with overfitting issue due to the high-dimensional search space composed by operator selection and skip connection of each layer. This paper explores the architecture overfitting issue in depth based on the reinforcement learning-based NAS framework. We show that the policy gradient method has deep correlations with the cross entropy minimization. Based on this correlation, we further demonstrate that, though the reward of NAS is sparse, the policy gradient method implicitly assign the reward to all operations and skip connections based on the sampling frequency. However, due to the inaccurate reward estimation, curse of dimensionality problem and the hierachical structure of neural networks, reward charateristics for operators and skip connections have intrinsic differences, the assigned rewards for the skip connections are extremely noisy and inaccurate. To alleviate this problem, we propose a neural architecture refinement approach that working with an initial state-of-the-art network structure and only refining its operators. Extensive experiments have demonstrated that the proposed method can achieve fascinated results, including classification, face recognition etc.

연구 동기 및 목표

• 강화학습 기반 NAS에서 스킵 연결에 대해 노이즈가 많고 정확도가 떨어지는 보상 할당으로 인해 발생하는 아키텍처 과적합 문제를 해결하기 위해.
• 연산자와 스킵 연결을 동시에 최적화할 경우 불안정한 학습 동역학과 낮은 일반화 성능이 발생하는 이유를 조사하기 위해.
• 연산자와 스킵 연결의 검색 공간을 분리함으로써 보상 추정 정확도를 향상시키기 위해.
• FLOPs와 파라미터를 줄이며 성능을 유지하거나 향상시키는 실용적이고 효율적인 NAS 방법을 개발하기 위해.
• 다양한 컴퓨터 비전 작업에서 정밀하게 조정된 아키텍처의 일반화 능력을 검증하기 위해.

제안 방법

• 스킵 연결을 고정하고 오직 연산자 공간만 최적화하는 Neural Architecture Refinement(NAR)를 제안하여 검색 공간의 차원을 감소시킨다.
• 연산자와 스킵 연결의 최적화를 분리하여 각각 별도의 검색 영역으로 간주함으로써 보상 노이즈와 불안정성을 완화한다.
• 컨트롤러가 고정된 스킵 연결 구조에서 최적의 연산자를 먼저 학습하는 계층적 검색 전략을 사용한다.
• 계산 비용을 줄이기 위해 데이터의 일부를 사용하는 프록시 작업을 활용하며, 집중적인 연산자 정밀 조정을 통해 정확한 보상 추정을 보장한다.
• 정책 기반 강화학습과 교차 엔트로피 최소화 간의 상관관계를 활용하여 학습을 안정화하고 수렴을 향상시킨다.
• 재학습 없이도 하류 작업에 정밀 조정된 아키텍처를 적용함으로써 일반화 능력과 효율성을 입증한다.

실험 결과

연구 질문

• RQ1 NAS에서 연산자와 스킵 연결을 동시에 최적화할 경우 과적합과 불안정한 학습이 발생하는 이유는 무엇인가?
• RQ2 정책 기반 강화학습 방법이 연산자와 스킵 연결에 보상을 암묵적으로 어떻게 할당하는지, 그리고 왜 스킵 연결에 대해서는 이 할당이 노이즈가 많게 되는가?
• RQ3 연산자와 스킵 연결의 최적화를 분리하면 NAS에서 보상 추정 정확도가 향상되고 과적합이 감소하는가?
• RQ4 스킵 연결을 고정하고 오직 연산자만 정밀 조정할 경우 하류 작업에서 더 나은 일반화와 효율성이 달성되는가?
• RQ5 신경망의 계층적 구조가 연산자와 스킵 연결의 보상 특성에 어떻게 영향을 미치는가?

주요 결과

• LFW에서 99.56%의 정확도와 CFP-FP에서 94.42%의 정확도를 기록했으며, 파라미터는 3.38×10⁷개, FLOPs는 4.69×10⁹로, 기준 모델인 LResNet50E-IR을 초월한다.
• CIFAR-10에서 ResNet-18-16는 1.41×10⁹ FLOPs로 93.71%의 정확도를 달성했으며, 원본 ResNet-18 대비 FLOPs가 20% 감소했다.
• 정밀 조정된 모델은 ImageNet에서도 잘 일반화되어 기준 모델(69.39%)과 유사하거나 略로 높은 상위-1 정확도(69.42%)를 달성했으며, 파라미터 수가 적었다.
• 여러 벤치마크에서 최대 20%의 FLOPs와 20%의 파라미터를 감소시키면서도 성능을 유지하거나 향상시켰다.
• 실험 결과, 고차원 검색 공간로 인해 스킵 연결은 보상 노이즈에 더 취약함을 확인하여, 분리된 최적화의 필요성을 뒷받침한다.
• 일반화 연구 결과, 한 데이터셋(예: Face-Emore V2)에서 정밀 조정된 아키텍처가 다른 데이터셋(예: Face-Emore V1)으로도 잘 일반화됨을 확인하여 강건성을 입증했다.