[논문 리뷰] metric-learn: Metric Learning Algorithms in Python

William de Vazelhes, CJ Carey외 3명|arXiv (Cornell University)|2019. 08. 13.

Machine Learning and Algorithms참고 문헌 17인용 수 31

한 줄 요약

metric-learn는 scikit-learn 호환 API를 사용하여 감독 및 약한 감독 기반 메트릭 학습 알고리즘을 통합적으로 구현한 파이썬 패키지로, 분류, 군집, 검색과 같은 작업에서 머신러닝 파이프라인에 원활하게 통합할 수 있도록 합니다. LMNN, MMC, 트리플릿/쿼드루플릿 학습기와 같은 알고리즘을 통해 마할라노비스 거리 학습을 지원하며, 교차 검증, 하이퍼파rameter 튜닝, 파이프라인 처리와의 완전한 호환성을 제공합니다.

ABSTRACT

metric-learn is an open source Python package implementing supervised and weakly-supervised distance metric learning algorithms. As part of scikit-learn-contrib, it provides a unified interface compatible with scikit-learn which allows to easily perform cross-validation, model selection, and pipelining with other machine learning estimators. metric-learn is thoroughly tested and available on PyPi under the MIT licence.

연구 동기 및 목표

• scikit-learn 생태계와 원활하게 통합되는 단일 통합형, 프로덕션 수준의 파이썬 패키지로서 메트릭 학습 알고리즘을 제공하는 것.
• 클래스 레이블, 쌍, 트리플릿, 쿼드루플릿을 포함한 다양한 감독 유형을 하나의 일관된 인터페이스에서 지원하는 것.
• k-NN 및 LDA와 같은 추정기와의 파이프라인 처리, 교차 검증, 모델 선택을 포함한 엔드 투 엔드 머신러닝 워크플로우를 가능하게 하는 것.
• 확장성 있고 잘 문서화된, 활발히 유지 관리되는 오픈소스 솔루션을 제공하며, MIT 라이선스 하에 제공하는 것.
• 표준 및 새로운 메트릭 학습 방법을 모두 지원함으로써 메트릭 학습 연구와 실무적 구현 간 격차를 메우는 것.

제안 방법

• 패키지는 메트릭 학습 알고리즘을 통해 선형 변환 행렬 L을 학습함으로써 마할라노비스 거리 학습을 구현하며, 점 x와 x′ 사이의 거리는 D_L(x,x′) = ||Lx - Lx′||₂로 정의됩니다.
• 모든 메트릭 학습기 클래스는 scikit-learn의 기본 클래스들(예: TransformerMixin)을 상속함으로써 파이프라인, 교차 검증, 모델 선택과의 호환성을 확보합니다.
• 감독 학습기들은 동일한 클래스에 속한 점들을 가까이 모으고, 다른 클래스에 속한 점들을 떨어지게 하는 메트릭을 최적화하기 위해 클래스 레이블을 사용합니다.
• 쌍 학습기들은 점들의 쌍에 대해 +1(유사함) 또는 -1(비유사함)의 이진 레이블을 사용하여, 유사한 쌍의 내부 거리를 최소화하는 메트릭을 학습합니다.
• 트리플릿 및 쿼드루플릿 학습기들은 각각 3개 또는 4개의 점 튜플을 사용하며, 첫 번째 점이 두 번째 점보다 세 번째 점보다 가까워야 하거나, 첫 두 점이 마지막 두 점보다 가까워야 하는 조건을 강제합니다.
• 약한 감독 기반 예측 작업에서 거리 임계값을 자동으로 설정하기 위한 임계값 캘리브레이션 방법(calibrate_threshold)이 포함되어 있습니다.

실험 결과

연구 질문

• RQ1 머신러닝 워크플로우 내에서의 사용성과 통합성을 향상시키기 위해 메트릭 학습 알고리즘을 단일 scikit-learn 호환 인터페이스로 통합할 수 있는가?
• RQ2 실제 응용에서 완전한 감독 기반 방법과 비교해 볼 때, 약한 감독 기반 메트릭 학습(예: 쌍, 트리플릿, 쿼드루플릿 감독)을 사용할 경우 성능에 어떤 영향을 미치는가?
• RQ3 다양한 감독 수준과 데이터 크기를 고려할 때, 하나의 확장 가능한 파이썬 패키지가 다양한 메트릭 학습 알고리즘을 효율적으로 지원할 수 있는가?
• RQ4 scikit-learn 파이프라인과의 통합이 k-NN 분류와 같은 후행 작업에서 모델 정확도와 개발 효율성에 어떤 영향을 미치는가?
• RQ5 고전적이고 새로운 알고리즘을 모두 지원하는 프로덕션 수준의 오픈소스 메트릭 학습 라이브러리를 구축하기 위한 핵심 설계 원칙은 무엇인가?

주요 결과

• metric-learn는 감독, 쌍, 트리플릿, 쿼드루플릿의 네 가지 감독 유형을 지원하며, 14개의 메트릭 학습 알고리즘을 단일 일관된 scikit-learn 호환 API를 통해 제공합니다.
• 패키지는 교차 검증, 그리드 서치, 파이프라인 조합 등 scikit-learn 도구와 완전히 통합되어 있으며, 와인 데이터셋에서 LMNN-kNN 파이프라인을 통해 이를 실증적으로 입증했습니다.
• 약한 감독 학습기인 MMC는 LFW 쌍 데이터셋에서 교차 검증 시 평균 ROC-AUC 스코어 0.893 ± 0.025를 기록하여 최소한의 감독으로도 뛰어난 성능을 보였습니다.
• 패키지는 PyPI와 conda-forge에서 이용 가능하며, 풀 테스트 커버리지와 활발한 개발을 제공하며, 파이썬 3.6 이상을 지원합니다.
• components_ 및 get_mahalanobis_matrix의 구현을 통해 사용자는 학습된 변환 행렬과 마할라노비스 행렬을 추출하고 분석, 시각화할 수 있습니다.
• 향후 확장 기능으로 대규모 데이터를 위한 스트로스틱 솔버 및 다중 레이블, 고차원, 비선형 메트릭 학습 알고리즘 지원이 포함될 예정입니다.