[논문 리뷰] DISK: Learning local features with policy gradient

Michał J. Tyszkiewicz, Pascal Fua외 1명|arXiv (Cornell University)|2020. 06. 24.

Advanced Image and Video Retrieval Techniques참고 문헌 50인용 수 184

한 줄 요약

DISK은 강화학습을 사용하여 로컬 키포인트와 디스크립터를 엔드투엔드로 학습하고, 이산 키포인트 정책으로 많은 올바른 특징 매치를 최적화한다. 이 접근법은 밀집하고 판별력 있는 특징을 생성하고 세 가지 벤치마크에서 최첨단 성능을 달성한다.

ABSTRACT

Local feature frameworks are difficult to learn in an end-to-end fashion, due to the discreteness inherent to the selection and matching of sparse keypoints. We introduce DISK (DIScrete Keypoints), a novel method that overcomes these obstacles by leveraging principles from Reinforcement Learning (RL), optimizing end-to-end for a high number of correct feature matches. Our simple yet expressive probabilistic model lets us keep the training and inference regimes close, while maintaining good enough convergence properties to reliably train from scratch. Our features can be extracted very densely while remaining discriminative, challenging commonly held assumptions about what constitutes a good keypoint, as showcased in Fig. 1, and deliver state-of-the-art results on three public benchmarks.

연구 동기 및 목표

• 키포인트 선택과 매칭의 이산성으로 인해 로컬 특징을 엔드투엔드로 학습하는 것이 왜 어려운지 동기를 부여한다.
• 정확한 특징 매치를 최적화하기 위한 강화학습 기반 프레임워크(DISK)를 제안한다.
• 신뢰 가능한 from-scratch 학습을 위해 훈련과 추론 체제를 정렬하는 간단하고 표현력이 풍부한 확률 모델을 만든다.
• 밀집하고 판별력 있는 특징이 키포인트 품질에 대한 전통적 가정보다 우수하다는 것을 시연한다.

제안 방법

• RL 최적화를 위한 이산 키포인트 선택을 다루는 확률 모델을 제안한다.
• 다수의 올바른 특징 매치를 대리 목적함수로 최대화하기 위해 정책 경사 최적화를 사용한다.
• 미분가능성을 유지하면서 키포인트 탐지, 방향 추정 및 디스크립션을 엔드투엔드로 연결하여 학습한다.
• RL 신호를 활용하여 부정확한 목적함수와 비미분가능한 구성요소에 의존하는 것을 피한다.
• 강한 판별력과 견고한 다운스트림 매칭을 갖춘 밀집 특징 추출을 가능하게 한다.

실험 결과

연구 질문

• RQ1 이산 키포인트 정책을 강화학습으로 엔드투엔드 최적화하여 올바른 매치를 최대화할 수 있는가?
• RQ2 정책 그레이디언트로 학습된 밀집하고 판별력 있는 특징 표현이 더 우수한 매칭 성능을 달성하는가?
• RQ3 DISK가 엔드투엔드 학습 설정에서 기존의 수동 설계 또는 부분적으로 학습된 디스크립터와 어떻게 비교되는가?
• RQ4 대리 RL 목적함수로 처음부터 학습하는 것이 로컬 특징 학습에 대해 신뢰할 수 있는 수렴을 보이는가?
• RQ5 학습된 특징이 여러 공개 벤치마크에서도 성능을 유지하는가?

주요 결과

• DISK는 세 개의 공개 벤치마크에서 최첨단 결과를 달성한다.
• 특징은 매우 밀집하게 추출되면서도 여전히 판별력을 유지한다.
• 방법은 비미분가능한 키포인트 선택과 관련된 학습 문제를 극복한다.
• 학습을 처음부터 대리 목적함수로 수행하면 견고한 학습과 신뢰할 수 있는 수렴이 나타난다.
• 이 방식은 비미분가능한 엔드투엔드 감독에 의존하지 않음으로써 이전의 RL 기반 로컬 특징 방법의 일부 한계를 완화한다.