[논문 리뷰] Acceleration of Large Margin Metric Learning for Nearest Neighbor Classification Using Triplet Mining and Stratified Sampling

Parisa Abdolrahim Poorheravi, Benyamin Ghojogh외 3명|arXiv (Cornell University)|2021. 01. 15.

Face and Expression Recognition참고 문헌 31인용 수 4

한 줄 요약

이 논문은 최근접 이웃 분류를 위한 대량 마진 거리 측정 학습을 가속화하기 위해 삼중체 마이닝 기법과 계층적 분層 샘플링 접근법을 제안한다. 가장 정보가 많은 삼중체(예: 어려운 음성 예측, 반으로 어려운 양성 예측)를 선택하고 계층적 초구 안에서 반복적인 샘플링을 수행함으로써, Fisher Iris, ORL Faces, MNIST 데이터셋에서 분류 정확도를 유지하거나 향상시키면서도 계산 비용을 최대 95%까지 감소시킨다.

ABSTRACT

This article is published by the Journal of Computational Vision and Imaging Systems, available here: https://doi.org/10.15353/jcvis.v6i1.3534. This journal provides immediate open access to its content on the principle that making research freely available to the public supports a greater global exchange of knowledge.

연구 동기 및 목표

• 대규모 데이터셋에서 느린 성능을 보이는 준정방행렬 프로그래밍(SDP)을 사용한 대량 마진 거리 측정 학습의 높은 계산 비용을 해결하기 위해.
• 시아모이즈 네트워크에서 유래한 삼중체 마이닝 기법을 활용해 k-NN 분류를 위한 SDP 기반 거리 측정 학습의 속도를 향상시키기 위해.
• 더 나은 확장성과 학습 효율성을 확보하기 위해 계층적 분층 샘플링 프레임워크를 개발하기 위해.
• 분류 성능을 희생시키지 않은 채 정보가 많은 삼중체에 집중함으로써 최적화 속도를 향상시키기 위해.

제안 방법

• Siamese 네트워크 마이닝 기반의 일곱 가지 삼중체 마이닝 전략—k-BA, k-BH, k-BSH, k-HPEN, k-EPEN, k-EPHN, k-NS—을 제안하여 SDP 최적화에 활용한다.
• 내부 클래스 분산을 최소화하고 외부 클래스 분산을 최대화하는 분류 가능한 부분공간을 학습하기 위해, 투영 행렬 L을 사용한 마할라노비스 거리를 사용한다.
• 반복적으로 내포된 초구 안에서 분층적 분할 샘플링을 적용하여 학습을 위한 데이터 하위집합을 선택하는 계층적 접근법을 구현한다.
• 삼중체 마이닝과 계층적 샘플링을 결합하여 시간 복잡도와 추정 분산을 감소시킨다.
• 일반화 성능 및 견고성을 향상시키기 위해 계층적 학습을 통한 모델 평균화를 적용한다.
• 확률 분포를 활용한 음성 샘플링(예: k-NS)을 통해 어려운 또는 정보가 많은 음성 예측을 우선순위로 지정한다.

실험 결과

연구 질문

• RQ1 Siamese 네트워크에서 유래한 삼중체 마이닝 기법이 SDP 기반 대량 마진 거리 측정 학습을 효과적으로 가속화하는 데 유용한가?
• RQ2 계층적 분층 샘플링은 거리 측정 학습의 확장성과 효율성을 어떻게 향상시키는가?
• RQ3 다양한 삼중체 마이닝 전략(예: 어려운, 반으로 어려운, 가장 쉬운/가장 어려운)이 분류 정확도와 학습 시간에 어떤 영향을 미치는가?
• RQ4 삼중체 마이닝과 계층적 샘플링을 결합하면 비계층적 접근법보다 더 높은 성능과 더 빠른 수렴을 달성할 수 있는가?
• RQ5 다양한 마이닝 전략은 얼굴 데이터셋에서 시각화된 고유값 부분공간(예: 유령 얼굴)에 어떤 영향을 미치는가?

주요 결과

• Fisher Iris 데이터셋에서 계층적 접근법은 k-BA 마이닝을 사용해 학습 시간을 97% 감소시켜 23.73초에서 832.85초로 줄였고, 정확도는 100%를 달성했다.
• ORL Faces에서 k-BSH 마이닝 방법은 계층적 환경에서 가장 높은 정확도(81.25%)를 기록했으며, 비계층적 기준선을 초월했다.
• MNIST에서 k-HPEN 및 k-BSH 방법은 계층적 환경에서 각각 81.00%와 82.00%의 정확도를 기록했고, 학습 시간은 120초 이상에서 5초 이내로 감소했다.
• k-NS(음성 샘플링) 방법은 가장 분류 능력이 뛰어난 유령 얼굴을 생성했으며, 눈, 눈썹, 안경 등의 특징을 강조했다.
• 계층적 접근법은 이전에는 계산 비용으로 인해 비현실적이었던 대규모 데이터셋에서 k-BA(모든 음성 예측)의 효율적 사용을 가능하게 했다.
• 모델 평균화와 분층 샘플링은 추정 분산을 감소시켜, 감소된 데이터 하위집합에도 불구하고 ORL과 MNIST에서 성능 향상을 이끌어냈다.