[논문 리뷰] Git Loss for Deep Face Recognition

Alessandro Calefati, Muhammad Kamran Janjua외 2명|arXiv (Cornell University)|2018. 07. 23.

Face recognition and analysis참고 문헌 24인용 수 10

한 줄 요약

이 논문은 딥 페이스 인식을 위한 새로운 통합 감독 손실인 Git 손실을 제안한다. 이 손실은 소프트맥스 손실과 센터 손실을 결합하여 내부 클래스 변동을 최소화하고 클래스 간 거리를 최대화한다. Git의 '푸시'(push)와 '풀'(pull) 명령어의 의미적 유사성을 활용하여 특징의 판별 능력을 향상시키며, 단지 약 300만 장의 훈련 이미지로 LFW에서 99.30%의 최고 성능을 기록하고 YTF에서는 95.30%의 성능을 달성한다.

ABSTRACT

Convolutional Neural Networks (CNNs) have been widely used in computer vision tasks, such as face recognition and verification, and have achieved state-of-the-art results due to their ability to capture discriminative deep features. Conventionally, CNNs have been trained with softmax as supervision signal to penalize the classification loss. In order to further enhance the discriminative capability of deep features, we introduce a joint supervision signal, Git loss, which leverages on softmax and center loss functions. The aim of our loss function is to minimize the intra-class variations as well as maximize the inter-class distances. Such minimization and maximization of deep features are considered ideal for face recognition task. We perform experiments on two popular face recognition benchmarks datasets and show that our proposed loss function achieves maximum separability between deep face features of different identities and achieves state-of-the-art accuracy on two major face recognition benchmark datasets: Labeled Faces in the Wild (LFW) and YouTube Faces (YTF). However, it should be noted that the major objective of Git loss is to achieve maximum separability between deep features of divergent identities.

연구 동기 및 목표

• 더 나은 인식 성능를 위해 딥 페이스 특징의 판별 능력을 향상시키기 위해.
• 표준 소프트맥스 손실의 한계를 해결하기 위해, 분류 오차에만 페널티를 주며 특징의 밀도나 분리도를 제어하지 않는 점을 개선하기 위해.
• 소프트맥스 손실과 센터 손실의 장점을 통합하여 단일의 엔드 투 엔드 학습 가능한 손실 함수로 만드는 것.
• 정체성 간 특징 분리도를 극대화하면서도 내부 클래스의 밀도를 유지하는 것.
• 이전 최고 성능 방법들보다 적은 훈련 이미지로도 일반화 능력과 효과성을 입증하는 것.

제안 방법

• Git 손실은 소프트맥스 교차엔트로피 손실과 센터 손실을 통합하여 분류와 특징 클러스터링을 동시에 최적화한다.
• 손실 함수는 특징과 해당 클래스 중심 간의 거리를 최소화함으로써 내부 클래스의 밀도를 높이고, 클래스 중심 간의 거리를 최대화함으로써 클래스 간 분리도를 높인다.
• 내부 클래스 최적화와 클래스 간 최적화 사이의 트레이드오프를 조정하기 위해 하이퍼파라미터 λC 를 사용한다.
• 기본적인 CNN 아키텍처인 Inception-ResNet-V1과 호환되며, SGD를 사용한 엔드 투 엔드 학습이 가능하다.
• 이름 'Git 손실'은 Git 명령어 '푸시'(클래스 간 분리)와 '풀'(같은 클래스의 특징 집합)에서 영감을 받았다.
• 고차원 공간에서의 격자 탐색의 계산 부담을 피하기 위해, 체계적인 히우리스틱 검색을 사용하여 하이퍼파라미터를 튜닝한다.

실험 결과

연구 질문

• RQ1 소프트맥스 손실과 센터 손실을 통합한 통합 손실 함수가 개별 손실 함수를 초월해 딥 페이스 특징의 판별 능력을 향상시킬 수 있는가?
• RQ2 FaceNet과 ArcFace와 같은 최고 성능 방법들과 비교해 Git 손실의 정확도와 일반화 능력은 어떠한가?
• RQ3 Git 손실이 학습된 특징 공간에서 내부 클래스 변동을 얼마나 줄이고 클래스 간 거리를 얼마나 증가시키는가?
• RQ4 이전의 최고 성능 방법들보다 적은 훈련 이미지로 Git 손실이 최고 성능을 달성할 수 있는가?
• RQ5 특히 λC 에 대해 Git 손실의 민감도는 어느 정도인가?

주요 결과

• Labeled Faces in the Wild (LFW) 벤치마크에서 Git 손실은 동일한 아키텍처와 데이터셋 조건에서 표준 소프트맥스 손실(98.40%)과 센터 손실(99.20%)을 모두 뛰어넘는 99.30%의 정확도를 달성한다.
• YouTube Faces (YTF) 데이터셋에서 Git 손실은 동일한 훈련 조건에서 소프트맥스(93.60%)와 센터 손실(95.10%)을 모두 초월하여 95.30%의 정확도를 기록한다.
• 질적 및 정량적 비교를 통해 MNIST에서 제안된 손실 함수가 센터 손실보다 내부 클래스 거리 감소와 클래스 간 거리 증가를 더 효과적으로 구현하는 것으로 확인되었다.
• Git 손실은 이전의 최고 성능 방법들(예: FaceNet(200M), Fusion(500M))보다 훨씬 적은 약 300만 장의 훈련 이미지로도 최고 성능을 달성한다.
• 하이퍼파라미터 분석 결과, 작은 λC 값은 클래스 간 거리를 증가시키지만 내부 클래스 분산도 증가시키므로, Git 손실이 이 트레이드오프를 효과적으로 균형 잡고 있음을 보여준다.
• 다양한 벤치마크와 훈련 프로토콜(오픈 세트 평가 포함)을 통해 검증된 바, 이 방법은 강인하고 잘 일반화된다.