[논문 리뷰] Deep Metric Learning with Angular Loss

Jian Wang, Feng Zhou외 3명|arXiv (Cornell University)|2017. 08. 04.

Face recognition and analysis인용 수 4

한 줄 요약

이 논문은 거리 기반 제약 조건을 삼각형의 각도 기반 제약 조건으로 대체하는 새로운 딥 메트릭 학습 목표인 Angular Loss (AL)를 제안한다. 이는 척도 변화에 대한 강건성과 고차원 기하학적 구조를 포착함으로써 성능을 향상시킨다. 삼중체의 음성 점에서의 각도를 최소화함으로써, CUB-200-2011, Stanford Cars, Online Products 데이터셋에서 최신 기술 수준의 성능을 달성하며, Recall@8에서 최대 83.9% 및 클러스터링 정확도 61.1%의 향상을 기록한다.

ABSTRACT

The modern image search system requires semantic understanding of image, and a key yet under-addressed problem is to learn a good metric for measuring the similarity between images. While deep metric learning has yielded impressive performance gains by extracting high level abstractions from image data, a proper objective loss function becomes the central issue to boost the performance. In this paper, we propose a novel angular loss, which takes angle relationship into account, for learning better similarity metric. Whereas previous metric learning methods focus on optimizing the similarity (contrastive loss) or relative similarity (triplet loss) of image pairs, our proposed method aims at constraining the angle at the negative point of triplet triangles. Several favorable properties are observed when compared with conventional methods. First, scale invariance is introduced, improving the robustness of objective against feature variance. Second, a third-order geometric constraint is inherently imposed, capturing additional local structure of triplet triangles than contrastive loss or triplet loss. Third, better convergence has been demonstrated by experiments on three publicly available datasets.

연구 동기 및 목표

• 거리 기반 메트릭 학습의 한계, 특히 척도 변화에 대한 민감성과 고차원 기하학적 제약의 부재를 해결하기 위해.
• 삼중체 손실에서 거리 기반 목표를 각도 기반 제약 조건으로 대체함으로써 학습의 안정성과 수렴성을 향상시키기 위해.
• 삼중체에 포함된 제3차 기하학적 구조를 인코딩함으로써 이미지 검색 및 클러스터링 작업의 성능을 향상시키기 위해.
• 실제 데이터셋에서 클래스 내 변동성을 더 잘 다룰 수 있도록 척도 및 회전에 불민한 메트릭 학습 목표를 개발하기 위해.
• 기존 프레임워크(예: N-pair loss)와의 통합을 통해 Angular Loss의 일반화 능력을 입증하기 위해.

제안 방법

• 삼중체 삼각형의 음성 점에서의 각도를 제약 조건으로 설정하는 새로운 손실 함수를 제안하며, 기존의 거리 기반 제약 조건을 대체한다.
• 양성 및 음성 벡터 간의 코사인 값을 함수로 정의하고, 분리 효과를 강화하기 위해 마진을 사용한다.
• 절대 거리 대신 각도를 사용함으로써 척도 불변 목표를 구현하여 특징 크기의 변동성에 민감도를 감소시킨다.
• 기존의 메트릭 학습 프레임워크(예: N-pair loss)와 결합할 수 있는 미분 가능한 함수로 Angular Loss를 구현한다.
• 음성 샘플이 양성 클러스터 중심에서 멀어지도록 각도의 상한선에 마진 기반 제약 조건을 적용한다.
• 각도 마진을 제어하는 하이퍼파rameter α를 도입하였으며, 아블레이션 연구를 통해 최적 성능을 얻는 데서 α = 45°임을 확인하였다.

실험 결과

연구 질문

• RQ1 삼중체 삼각형 내 각도 제약 조건이 특징 맵의 척도 변화에 대한 딥 메트릭 학습의 강건성 향상에 기여하는가?
• RQ2 각도를 통한 제3차 기하학적 구조(제약) 통합이 제2차 거리 기반 목표보다 더 나은 수렴성과 성능을 제공하는가?
• RQ3 고급 클래스 내 변동성이 있는 데이터셋(예: Stanford Cars)을 다룰 때 Angular Loss가 대비 및 삼중체 손실보다 우수한가?
• RQ4 N-pair loss와 같은 기존 최신 기술 수준의 메트릭 학습 프레임워크와 Angular Loss를 효과적으로 통합할 수 있는가?
• RQ5 다양한 데이터셋에서 최고의 성능을 달성하기 위한 각도 마진 α의 최적 값은 무엇인가?

주요 결과

• CUB-200-2011 데이터셋에서 제안된 방법은 Recall@8에서 83.9%를 기록하여 이전 최신 기술 수준의 방법(NL&AL)의 83.7%를 초월하였다.
• Stanford Cars 데이터셋에서 방법은 Recall@8 92.1% 및 클러스터링 정확도 63.2%를 달성하여 모든 베이스라인을 압도하였다.
• Online Products 데이터셋에서 방법은 Recall@1000 98.0% 및 클러스터링 정확도 88.6%를 기록하여 강력한 일반화 능력을 입증하였다.
• 아블레이션 연구에서 α = 45°가 Stanford Cars 및 Online Products 데이터셋에서 각각 83.9% 및 98.0%의 Recall@1000 성능을 내는 데 최적임을 확인하였다.
• N-pair loss와 Angular Loss의 조합(NL&AL)이 모든 데이터셋에서 최고의 성능을 기록하여 제안된 방법의 효과성을 확인하였다.
• 특히 클래스 내 불균형한 변동성이 높은 데이터셋에서 거리 기반 기반선 대비 더 나은 수렴성과 강건성을 보였다.