[논문 리뷰] Neural Architecture Search for Deep Face Recognition

Ning Zhu|arXiv (Cornell University)|2019. 04. 21.

Face recognition and analysis참고 문헌 41인용 수 10

한 줄 요약

이 논문은 강화학습을 사용하여 지연 시간을 고려한 보상 함수를 적용한 새로운 신경망 아키텍처 탐색(NAS) 프레임워크를 제안하며, 깊이 있는 얼굴 인식을 위한 자동으로 효율적이고 고정확도의 아키텍처를 발견한다. 이는 단지 최대 1910만 파라미터를 가진 컴팩트한 네트워크를 사용하여 MS-Celeb-1M에서 98.77%의 상위-1 정확도, LFW에서 99.89%의 정확도를 기록하며 최신 기술 수준(SOTA) 성능을 달성한다. 이는 NAS를 얼굴 인식에 성공적으로 적용한 최초의 사례로, 뛰어난 성능을 보인다.

ABSTRACT

By the widespread popularity of electronic devices, the emergence of biometric technology has brought significant convenience to user authentication compared with the traditional password and mode unlocking. Among many biological characteristics, the face is a universal and irreplaceable feature that does not need too much cooperation and can significantly improve the user's experience at the same time. Face recognition is one of the main functions of electronic equipment propaganda. Hence it's virtually worth researching in computer vision. Previous work in this field has focused on two directions: converting loss function to improve recognition accuracy in traditional deep convolution neural networks (Resnet); combining the latest loss function with the lightweight system (MobileNet) to reduce network size at the minimal expense of accuracy. But none of these has changed the network structure. With the development of AutoML, neural architecture search (NAS) has shown excellent performance in the benchmark of image classification. In this paper, we integrate NAS technology into face recognition to customize a more suitable network. We quote the framework of neural architecture search which trains child and controller network alternately. At the same time, we mutate NAS by incorporating evaluation latency into rewards of reinforcement learning and utilize policy gradient algorithm to search the architecture automatically with the most classical cross-entropy loss. The network architectures we searched out have got state-of-the-art accuracy in the large-scale face dataset, which achieves 98.77% top-1 in MS-Celeb-1M and 99.89% in LFW with relatively small network size. To the best of our knowledge, this proposal is the first attempt to use NAS to solve the problem of Deep Face Recognition and achieve the best results in this domain.

연구 동기 및 목표

• 신경망 아키텍처 탐색(NAS)이 깊이 있는 얼굴 인식을 위한 더 나은 신경망 아키텍처를 자동으로 설계할 수 있는지 조사하기 위해.
• 얼굴 인식 시스템에서 모델 정확도와 추론 지연 시간 사이의 트레이드오프를 해결하기 위해.
• 아키텍처 자체를 최적화하여 기존 수작업으로 설계된 네트워크인 ResNet과 MobileNet을 초월해 얼굴 인식 성능을 향상시키기 위해.
• 실제 배포를 고려해 정확도와 효율성을 균형 잡는 데 지연 시간을 NAS 보상 함수에 통합하기 위해.

제안 방법

• 이 방법은 컨트롤러 네트워크가 자식 네트워크 아키텍처를 생성하는 강화학습 기반의 NAS 프레임워크를 사용한다.
• 검색 과정은 자식 네트워크 학습과 정책 기반 최적화를 통해 컨트롤러 업데이트를 번갈아 수행한다.
• 교차 엔트로피 손실과 추론 지연 시간을 조합한 고유한 보상 함수를 사용하여 아키텍처 검색 중 정확도와 효율성을 균형 잡는다.
• 검색 공간에는 경량 CNN에서 흔히 사용되는 depthwise 분리형 컨볼루션과 표준 컨볼루션 블록이 포함되어 있다.
• 컨트롤러는 포인터 네트워크를 사용하여 아키텍처 선택의 이산적 탐색을 가능하게 한다.
• 최종 아키텍처는 대규모 얼굴 데이터셋에서 표준 교차 엔트로피 손실을 사용해 처음부터 학습된다.

실험 결과

연구 질문

• RQ1 NAS가 깊이 있는 얼굴 인식에 효과적으로 적용되어 수작업으로 설계된 모델을 초월하는 아키텍처를 발견할 수 있는가?
• RQ2 NAS 보상 함수에 추론 지연 시간을 통합할 경우 정확도와 모델 효율성 사이의 트레이드오프에 어떤 영향을 미치는가?
• RQ3 표준 백본 네트워크를 사용하는 것과 비교해 얼굴 인식을 위해 특별히 아키텍처를 탐색할 경우 어떤 정도의 성능 향상을 기대할 수 있는가?
• RQ4 NAS가 모바일 및 엣지 디바이스에 배포 가능한 컴팩트하면서도 정확한 모델을 생성할 수 있는가?

주요 결과

• NAS 최적화 아키텍처는 대규모 MS-Celeb-1M 데이터셋에서 98.77%의 상위-1 정확도를 달성하여 이전 최신 기술 수준(SOTA) 방법을 초월했다.
• LFW 벤치마크에서 모델은 99.89%의 정확도를 기록하여 얼굴 인식 분야에서 새로운 최신 기술 수준(SOTA) 결과를 수립했다.
• 성능이 뛰어난 아키텍처는 단지 1910만 개의 파라미터만을 가지며, 높은 정확도에도 불구하고 높은 효율성을 보였다.
• 지연 시간을 보상 함수에 통합함으로써 정확도를 희생시키지 않고도 더 빠른 추론 시간을 가진 아키텍처를 도출할 수 있었다.
• 제안된 방법은 깊이 있는 얼굴 인식에 NAS를 적용한 최초의 사례로, 자동으로 작업에 특화된 아키텍처 설계의 잠재력을 입증했다.
• 결과는 NAS가 얼굴 인식 작업에서 표준 ResNet 및 MobileNet 변종을 초월하는 효과적이고 컴팩트한 아키텍처를 발견할 수 있음을 확인시켰다.