[논문 리뷰] Online Deep Metric Learning.

Wenbin Li, Jing Huo외 4명|arXiv (Cornell University)|2018. 05. 15.

Face recognition and analysis참고 문헌 13인용 수 10

한 줄 요약

이 논문은 온라인 메트릭 학습 층을 ReLU 비선형성과 함께 중첩하여 점진적이고 비선형적인 메트릭 학습을 가능하게 하는 계층적 프레임워크인 온라인 딥 메트릭 러닝(ODML)을 제안한다. 메트릭 학습을 딥 아키텍처로 모델링함으로써 ODML은 기존의 얕은 방법에 비해 유사도 학습 성능을 향상시키며, 벤치마크 데이터셋에서 뛰어난 성능을 보여준다.

ABSTRACT

Metric learning learns a metric function from training data to calculate the similarity or distance between samples. From the perspective of feature learning, metric learning essentially learns a new feature space by feature transformation (e.g., Mahalanobis distance metric). However, traditional metric learning algorithms are shallow, which just learn one metric space (feature transformation). Can we further learn a better metric space from the learnt metric space? In other words, can we learn metric progressively and nonlinearly like deep learning by just using the existing metric learning algorithms? To this end, we present a hierarchical metric learning scheme and implement an online deep metric learning framework, namely ODML. Specifically, we take one online metric learning algorithm as a metric layer, followed by a nonlinear layer (i.e., ReLU), and then stack these layers modelled after the deep learning. The proposed ODML enjoys some nice properties, indeed can learn metric progressively and performs superiorly on some datasets. Various experiments with different settings have been conducted to verify these properties of the proposed ODML.

연구 동기 및 목표

• 얕은 메트릭 학습의 한계를 해결하기 위해 메트릭 공간의 점진적이고 계층적인 학습을 가능하게 하기 위해.
• 기존의 온라인 메트릭 학습 알고리즘을 중첩하여 딥이고 비선형적인 메트릭 학습 아키텍처를 구성할 수 있는지 탐색하기 위해.
• 연속적인 메트릭 변환을 통해 더 나은 특징 표현을 학습하는 프레임워크를 개발하기 위해.
• 실세계 데이터셋에서 계층적 메트릭 학습이 유사도 측정을 향상시키는 데 효과적인지 검증하기 위해.

제안 방법

• ODML은 온라인 메트릭 학습 레이어를 중첩하여 딥 아키텍처를 구성하며, 각 레이어는 새로운 메트릭 공간으로의 변환을 학습한다.
• 각 레이어는 입력 특징을 새로운 공간으로 변환하기 위해 메트릭 학습 알고리즘(예: 온라인 마할라노비스 학습)을 적용한다.
• 비선형 활성화(ReLU)가 각 메트릭 레이어 이후에 적용되어 비선형 특징 공간 학습을 가능하게 한다.
• 프레임워크는 온라인 방식으로 학습되며, 새로운 데이터가 도착함에 따라 메트릭을 점진적으로 업데이트한다.
• 아키텍처는 엔드 투 엔드로 훈련 가능하여, 전체 계층을 최적화하기 위해 메트릭 레이어를 통해 역전파가 가능하다.

실험 결과

연구 질문

• RQ1 온라인 메트릭 학습을 중첩하여 딥이고 계층적인 메트릭 학습 프레임워크를 구성할 수 있는가?
• RQ2 비선형성을 갖는 메트릭 레이어를 중첩하면 얕은 메트릭 학습에 비해 더 향상된 유사도 표현을 달성할 수 있는가?
• RQ3 제안된 프레임워크는 온라인 환경에서 점진적이고 적응적으로 메트릭을 학습할 수 있는가?
• RQ4 ODML의 성능는 표준 벤치마크에서 기존의 메트릭 학습 방법과 비교해 어떻게 되는가?

주요 결과

• ODML은 기존의 얕은 메트릭 학습 방법에 비해 여러 벤치마크 데이터셋에서 뛰어난 성능을 달성한다.
• 메트릭 레이어의 계층적 중첩은 더 구분력 있는 특징 표현의 점진적 학습을 가능하게 한다.
• 각 메트릭 레이어 이후에 ReLU 비선형성을 통합함으로써 모델의 비선형 유사도 학습 능력이 향상된다.
• 실험을 통해 ODML의 온라인 훈련 방식이 점진적 학습 시나리오에서 효과적이고 확장 가능하다는 것이 확인되었다.