[논문 리뷰] Rethinking Feature Discrimination and Polymerization for Large-scale Recognition

Yü Liu, Hongyang Li외 1명|arXiv (Cornell University)|2017. 10. 02.

Face and Expression Recognition참고 문헌 38인용 수 112

한 줄 요약

논문은 class 중심 벡터와 코사인 유사도를 활용하여 intra-class 폴리머化와 inter-class 구분을 함께 최적화하는 congenerous cosine (COCO) 손실을 도입하여 대규모 인식에서 안정적인 end-to-end 학습을 가능하게 한다.

ABSTRACT

Feature matters. How to train a deep network to acquire discriminative features across categories and polymerized features within classes has always been at the core of many computer vision tasks, specially for large-scale recognition systems where test identities are unseen during training and the number of classes could be at million scale. In this paper, we address this problem based on the simple intuition that the cosine distance of features in high-dimensional space should be close enough within one class and far away across categories. To this end, we proposed the congenerous cosine (COCO) algorithm to simultaneously optimize the cosine similarity among data. It inherits the softmax property to make inter-class features discriminative as well as shares the idea of class centroid in metric learning. Unlike previous work where the center is a temporal, statistical variable within one mini-batch during training, the formulated centroid is responsible for clustering inner-class features to enforce them polymerized around the network truncus. COCO is bundled with discriminative training and learned end-to-end with stable convergence. Experiments on five benchmarks have been extensively conducted to verify the effectiveness of our approach on both small-scale classification task and large-scale human recognition problem.

연구 동기 및 목표

• ultra-large scale recognition에서 범주 간 구분적이면서도 클래스 내에서 폴리머화된 특징이 필요하다는 점을 동기 부여한다.
• class centroids와의 코사인 유사도를 최적화하여 두 목표를 달성하는 새로운 손실(COCO)을 제안한다.
• 작거나 큰 규모 벤치마크에서도 안정적인 수렴으로 end-to-end 학습이 가능하도록 한다.

제안 방법

• 특징과 클래스 중심 벡터 간의 코사인 유사도를 정의한다.
• 정규화되고 스케일된 특징과 중심에 대해 교차 엔트로피로 COCO 손실을 형식화한다.
• 훈련 중 네트워크 파라미터와 함께 클래스 중심 벡터를 업데이트한다(별도의 center loss 항이 없음).
• 백프로파게이션을 가능하게 하는 특징 및 중심 벡터에 대한 그래디언트를 표준 CNN 파이프라인 내에서 제공한다.
• 스케일 인자 alpha를 네트워크 및 클래스 수와 이론적으로 관련시키고 최적의 하한을 도출한다.
• triplet 및 center 손실에 비해 안정성과 수렴 이점을 입증한다.

실험 결과

연구 질문

• RQ1 코사인 기반의 중심 벡터 가이던스 목표가 ultra-large class counts에서 intra-class를 촘촘하게 클러스터링하고 inter-class 마진을 크게 만들 수 있는가?
• RQ2 COCO가 안정적인 end-to-end 학습 및 대규모 인식 작업에서 기존의 metric-learning 손실(예: triplet, center loss)보다 더 나은 확장성을 제공하는가?

주요 결과

• COCO는 데이터 보강 없이 MNIST와 CIFAR-10에서 경쟁력 있거나 우수한 정확도를 달성하여 여러 기준선을 능가한다.
• 대규모 얼굴 인식 벤치마크에서 COCO는 검증 및 식별 작업(LFW 및 MegaFace 등)에서 최첨단 또는 경쟁력 있는 결과를 보여준다.
• COCO는 소프트맥스 및 트리플렛 손실에 비해 코사인 거리 시각화에서 더 명확한 intra-class 폴리머화와 더 큰 inter-class 분리를 보여준다.
• 최적의 스케일 인자 alpha를 결정할 수 있으며, 실용 설정을 안내하는 도출된 하한(알파 ≈ 0.5 log(K-1) + 3)이 제시된다.
• 이 방법은 안정적인 수렴을 유지하며 대규모 클래스 수에서 때때로 관찰되는 트리플렛 손실의 학습 불안정을 피한다.