[논문 리뷰] Pairwise Supervised Hashing with Bernoulli Variational Auto-Encoder and Self-Control Gradient Estimator

Siamak Zamani Dadaneh, Shahin Boluki외 3명|arXiv (Cornell University)|2020. 05. 21.

Advanced Image and Video Retrieval Techniques참고 문헌 13인용 수 2

한 줄 요약

이 논문은 비차별성(pairwise) 손실을 직접 최적화함으로써 동일 클래스 간 유사성과 이질 클래스 간 이질성을 강제하는 비가역적 이진 해싱 코드를 최적화하기 위해 편향이 없고 분산이 낮은 기울기 추정기와 함께 베르누이 변동 자동인코더를 사용하는 새로운 쌍별 지도 학습 해싱 프레임워크를 제안한다. 이로 인해 텍스트 데이터에서 최신 기술 수준의 검색 정밀도를 달성한다.

ABSTRACT

Semantic hashing has become a crucial component of fast similarity search in many large-scale information retrieval systems, in particular, for text data. Variational auto-encoders (VAEs) with binary latent variables as hashing codes provide state-of-the-art performance in terms of precision for document retrieval. We propose a pairwise loss function with discrete latent VAE to reward within-class similarity and between-class dissimilarity for supervised hashing. Instead of solving the optimization relying on existing biased gradient estimators, an unbiased low-variance gradient estimator is adopted to optimize the hashing function by evaluating the non-differentiable loss function over two correlated sets of binary hashing codes to control the variance of gradient estimates. This new semantic hashing framework achieves superior performance compared to the state-of-the-arts, as demonstrated by our comprehensive experiments.

연구 동기 및 목표

• 대규모 텍스트 검색에서 지도 학습 기반의 쌍별 제약 조건을 활용하여 의미 해싱 성능을 향상시키는 것.
• 비가역적 이진 해싱 코드를 최적화하는 데 있어 편향이 없고 분산이 낮은 기울기 추정 방법을 적용하는 과제를 해결하는 것.
• 기존의 편향이 있는 기울기 추정기 대신 더 정확한 대안을 사용하여 이산 VAE의 해싱 함수 최적화를 향상시키는 것.
• 맞춤형 쌍별 손실 함수를 통해 학습된 이진 코드에서 동일 클래스 간 유사성과 이질 클래스 간 이질성을 향상시키는 것.

제안 방법

• 이진 해싱 코드를 생성하기 위해 베르누이 분포를 따르는 잠재 변수를 갖는 변동 자동인코더를 사용한다.
• 유사한 샘플(동일한 클래스)은 유사한 코드를 가지도록, 이질적인 샘플(다른 클래스)은 이질적인 코드를 가지도록 강제하는 쌍별 손실 함수를 도입한다.
• 비가역적 이진 코드를 위한 편향이 없고 분산이 낮은 기울기를 추정하기 위해 자기 제어 기울기 추정기를 활용한다.
• 기울기를 추정하기 위해 상관관계가 있는 두 개의 이진 코드 집합을 샘플링함으로써 최적화 과정에서의 분산을 감소시킨다.
• 비가역적 이진 코드 출력을 유지하면서도, 가역적 VAE 구성 요소를 통해 역전파를 통해 해싱 함수를 종합적으로 최적화한다.

실험 결과

연구 질문

• RQ1 이산 잠재 변수를 사용하는 쌍별 손실 함수는 텍스트 검색에서 지도 학습 해싱 성능을 향상시킬 수 있는가?
• RQ2 편향이 없는 기울기 추정기와 편향이 있는 기울기 추정기 간에 이산 해싱 코드 최적화에서 어떤 차이가 있는가?
• RQ3 자기 제어 기울기 추정기는 이산 VAE의 학습 과정에서 분산을 어느 정도 감소시킬 수 있는가?
• RQ4 제안된 프레임워크는 검색 정밀도 측면에서 기존 최신 기술 수준의 방법들을 초월하는가?

주요 결과

• 제안된 방법은 텍스트 검색 벤치마크에서 최신 기술 수준의 방법들보다 뛰어난 검색 정밀도를 달성한다.
• 편향이 없고 분산이 낮은 기울기 추정기를 사용함으로써 이산 해싱 코드의 최적화가 더 안정적이고 효과적으로 이루어진다.
• 쌍별 손실 함수는 학습된 이진 코드에서 동일 클래스 간 유사성과 이질 클래스 간 이질성을 효과적으로 향상시킨다.
• 특히 정밀도 지표 측면에서 기존 VAE 기반 해싱 방법들보다 향상된 성능을 보여준다.