[논문 리뷰] Riemannian Metric Learning for Symmetric Positive Definite Matrices

Raviteja Vemulapalli, David W. Jacobs|arXiv (Cornell University)|2015. 01. 10.

Face recognition and analysis참고 문헌 7인용 수 31

한 줄 요약

이 논문은 정보이론적 거리 학습(ITML)을 활용하여 로그-Euclidean 도메인에서 Mahalanobis 거리 학습을 통해 대칭 양의 정부호(SPD) 행렬에 대한 데이터 기반 리만 거리 학습 방법을 제안한다. 이 방법은 ETH80에서 얼굴 매칭 및 준지도 학습 클러스터링 작업에서 표준 기하 거리인 로그-Frobenius 거리보다 뛰어난 성능을 보이며, 학습된 로그-Euclidean 기하 거리가 고정된 거리보다 성능을 크게 향상시킴을 보여준다.

ABSTRACT

Over the past few years, symmetric positive definite (SPD) matrices have been receiving considerable attention from computer vision community. Though various distance measures have been proposed in the past for comparing SPD matrices, the two most widely-used measures are affine-invariant distance and log-Euclidean distance. This is because these two measures are true geodesic distances induced by Riemannian geometry. In this work, we focus on the log-Euclidean Riemannian geometry and propose a data-driven approach for learning Riemannian metrics/geodesic distances for SPD matrices. We show that the geodesic distance learned using the proposed approach performs better than various existing distance measures when evaluated on face matching and clustering tasks.

연구 동기 및 목표

• 대칭 양의 정부호(SPD) 행렬의 다양체 위에서 데이터 기반 리만 거리 학습 방법을 개발하는 것.
• 정보이론적 거리 학습(ITML)을 사용하여 항등원에서의 탄젠트 공간에서 Mahalanobis 거리 함수를 학습함으로써 SPD 행렬의 기하 거리 계산을 향상시키는 것.
• 실제 컴퓨터 비전 작업, 예를 들어 얼굴 매칭 및 물체 클러스터링과 같은 응용에서 학습된 기하 거리의 성능을 평가하는 것.
• 원래 공분산 행렬 또는 코レス키 분해에 직접 학습하는 것과 비교하여 로그-Euclidean 도메인에서의 학습이 더 효과적인지 평가하는 것.

제안 방법

• SPD 행렬을 그 행렬 로그로 변환하여 항등원에서의 탄젠트 공간으로 매핑함으로써 대칭 행렬의 공간과 등장하는 것을 보장한다.
• 유사도 및 이질성 제약 조건을 사용하여 로그 공간에서 Mahalanobis 거리 함수를 학습하기 위해 정보이론적 거리 학습(ITML)을 적용한다.
• 학습된 Mahalanobis 거리를 사용하여 로그-Euclidean 프레임워크를 통해 원래 SPD 다양체 위에서 기하 거리를 정의한다.
• 학습된 거리를 로그 도메인에서 기하 거리를 계산함으로써, 이는 SPD 다양체 위의 이중 불변 리만 거리로 대응된다.
• 학습된 거리를 얼굴 매칭 및 K-means를 사용한 준지도 학습 클러스터링과 같은 후속 작업에 적용한다.
• 클러스터링 정확도 및 매칭 정확도를 사용하여 표준 거리인 Frobenius, Cholesky-Frobenius, log-Frobenius와 비교하여 성능을 평가한다.

실험 결과

연구 질문

• RQ1 로그-Euclidean 공간에서 데이터 기반 리만 거리 학습이 SPD 행렬의 기하 거리 계산을 향상시킬 수 있는가?
• RQ2 로그 공간에서 Mahalanobis 거리를 학습하는 것이 컴퓨터 비전 작업에서 고정된 기하 거리인 log-Frobenius보다 우수한가?
• RQ3 원래 공분산 행렬 또는 코レス키 분해에 직접 학습하는 것보다 로그-Euclidean 도메인에서의 학습이 더 효과적인가?
• RQ4 학습된 기하 거리의 성능은 얼굴 매칭 및 물체 클러스터링에서 표준 기준과 비교하여 어떻게 되는가?

주요 결과

• 제안된 로그-Euclidean 기하 거리 학습 방법은 ETH80 데이터셋에서 73.79%의 클러스터링 정확도를 달성하여 기준선인 log-Frobenius 거리(55.70%) 및 기타 방법보다 뚜렷이 뛰어난 성능을 보였다.
• 로그-Euclidean 도메인에서 ITML 기반 학습은 표준 log-Frobenius 거리 대비 클러스터링 정확도에서 18.09% 향상되었으며, 데이터 기반 거리 학습의 유용성을 입증하였다.
• 원래 공분산 행렬 또는 코レス키 분해에서의 거리 학습은 각각 34.92% 및 19.24%의 성과에 머물러 있어, 로그 공간 접근 방식의 우수성을 시사하였다.
• 학습된 기하 거리는 모든 기준선을 초월하여 얼굴 매칭 작업에서 뛰어난 성능을 보였으며, 분류 표현 학습에 효과적임을 확인하였다.
• 결과적으로 로그-Euclidean 공간에서 리만 거리를 학습하는 것은 더 나은 일반화 능력과 SPD 행렬 비교 작업에서 향상된 성능을 이끌어낸다.