[논문 리뷰] Virtual Class Enhanced Discriminative Embedding Learning

Binghui Chen, Weihong Deng외 1명|arXiv (Cornell University)|2018. 11. 30.

Face recognition and analysis인용 수 28

한 줄 요약

이 논문은 표준 소프트맥스 손실에 동적 가상 음성 클래스를 통합하여 상위 클래스 간 각도 간격을 증가시키고 내부 클래스의 밀도를 높임으로써 분류 가능 특징 학습을 향상시키는 간단하면서도 효과적인 방법인 Virtual Softmax를 제안한다. 이 방법은 인간이 설계한 하이퍼파라미터나 복잡한 아키텍처 없이도 다양한 객체 분류 및 얼굴 인식 벤치마크에서 최신 기술 수준 또는 경쟁 가능한 성능을 달성한다.

ABSTRACT

Recently, learning discriminative features to improve the recognition performances gradually becomes the primary goal of deep learning, and numerous remarkable works have emerged. In this paper, we propose a novel yet extremely simple method extbf{Virtual Softmax} to enhance the discriminative property of learned features by injecting a dynamic virtual negative class into the original softmax. Injecting virtual class aims to enlarge inter-class margin and compress intra-class distribution by strengthening the decision boundary constraint. Although it seems weird to optimize with this additional virtual class, we show that our method derives from an intuitive and clear motivation, and it indeed encourages the features to be more compact and separable. This paper empirically and experimentally demonstrates the superiority of Virtual Softmax, improving the performances on a variety of object classification and face verification tasks.

연구 동기 및 목표

• 딥러닝에서 표준 소프트맥스가 분류 가능성이 아닌 분리 가능성만을 제공하는 데서 비롯되는 한계를 해결하기 위해.
• 수동으로 감쇠 조절이 필요한 마진 기반 방법(L-Softmax 및 A-Softmax)에 대한 자동적이고 하이퍼파라미터가 없는 대안을 개발하기 위해.
• 가상 음성 클래스를 통해 더 강력한 결정 경계 제약 조건을 부여하여 특징의 밀도 향상과 상위 클래스 간 분리 가능성을 향상시키기 위해.
• 세분화된 분류 및 얼굴 인식을 포함한 다양한 인식 작업에서 이 방법의 효과성을 입증하기 위해.
• 모델 아키텍처를 변경하지 않고도 계산 비용을 증가시키지 않으면서 표현 능력을 향상시킬 수 있는 단순한 플러그인 대체 방법을 제공하기 위해.

제안 방법

• 가상 음성 클래스가 최종 분류에 참여하지는 않지만 학습 중 특징 학습에 영향을 주는 동적 가상 클래스를 도입함으로써 표준 소프트맥스를 일반화한다.
• 진짜 클래스와 가상 클래스 사이의 각도 마진에 대해 0으로 수렴하는 제약 조건을 부여하기 위해 가상 클래스를 사용하여 더 큰 상위 클래스 간 각도 간격을 촉진한다.
• 가상 클래스를 포함한 교차 엔트로피 손실을 수정함으로써 모델 아키텍처를 변경하지 않고도 결정 경계 제약 조건을 효과적으로 강화한다.
• 현재 특징 분포에 따라 학습 도중 동적으로 업데이트되는 가상 클래스를 통해 적응성과 수동 조정의 필요성을 제거한다.
• 가상 클래스가 각도 특징 공간에서 경계 정규화 요소로 작용하여 특징의 밀도와 분리 가능성을 향상시키는 수학적 기반을 지닌다.
• 어떤 딥 네트워크와도 호환되며 기존 학습 파ip라인에 손실 함수 교체로 쉽게 통합할 수 있다.

실험 결과

연구 질문

• RQ1 소프트맥스 손실에 동적 가상 음성 클래스를 통합하면 학습된 특징의 분류 가능성이 크게 향상되는가?
• RQ2 Virtual Softmax는 표준 소프트맥스 및 L-Softmax, A-Softmax와 같은 마진 기반 방법보다 특징의 밀도와 분리 가능성 측면에서 우수한가?
• RQ3 이 방법은 작업별 하이퍼파라미터 조정 없이 다양한 인식 작업에서 최신 기술 수준의 성능을 달성할 수 있는가?
• RQ4 가상 클래스 통합은 임베딩 공간 내 특징의 각도 분포에 어떤 영향을 미치는가?
• RQ5 대규모 얼굴 인식(67,000명의 정체성 포함)과 같은 고클래스 수 상황에서도 Virtual Softmax는 효과적인가?

주요 결과

• CIFAR-10에서 Virtual Softmax는 테스트 오차율 6.68%를 기록하여 기준 소프트맥스(7.15%)와 이전 방법들(LS*: 6.77%, AS*: 6.83%)를 모두 능가한다.
• CIFAR-100에서 Virtual Softmax는 오차율을 24.01%로 줄여 기준 소프트맥스(25.52%)와 비교해 모든 비교 방법들(LS*: 24.32%, AS*: 24.11%)을 초월한다.
• CUB200 세분화된 분류에서 Virtual Softmax는 V2 모델로 81.1%의 정확도를 달성하여 기준 소프트맥스(77.2%)와 모든 이전 방법들(LS*: 80.5%, AS*: 80.2%)을 뛰어넘는다.
• LFW에서 Virtual Softmax는 인식 정확도를 99.46%로 향상시켜 기준 소프트맥스(99.10%)를 뛰어넘고 NS*(99.16%)와 LS*(99.37%)를 모두 능가한다.
• SLLFW에서 Virtual Softmax는 95.85%의 정확도를 기록하여 기준 소프트맥스(94.59%)와 비교해 모든 비교 방법들(특히 NormFace와 결합한 AS*: 96.45%)을 뛰어넘는다.
• ImageNet32에서 Virtual Softmax는 최고의 Top-1 정확도 48.84%와 Top-5 정확도 74.06%를 기록하여 모든 기준 및 이전 방법들을 능가한다.