[논문 리뷰] Stochastic Generative Hashing

Bo Dai, Ruiqi Guo외 3명|arXiv (Cornell University)|2017. 01. 11.

Advanced Image and Video Retrieval Techniques참고 문헌 29인용 수 14

한 줄 요약

이 논문은 최소 기술 길이(MDL) 원리를 통해 최대 데이터 압축을 최적화함으로써 이진 해시 함수를 학습하는 새로운 생성적 프레임워크인 Stochastic Generative Hashing(SGH)을 제안한다. 인코딩(입력에서 해시 코드로)과 디코딩(해시 코드에서 입력 재구성으로)을 모두 모델링함으로써 SGH는 히우리스틱 목적 함수와 이진 제약 조건의 완화를 피하며, 확률적 분포 기반 경사 하강법을 사용해 해시 함수와 생성 모델을 함께 훈련한다. 이로 인해 MNIST, SIFT-1M, GIST-1M와 같은 대규모 데이터셋에서 최신 기술 수준의 검색 성능을 달성한다.

ABSTRACT

Learning-based binary hashing has become a powerful paradigm for fast search and retrieval in massive databases. However, due to the requirement of discrete outputs for the hash functions, learning such functions is known to be very challenging. In addition, the objective functions adopted by existing hashing techniques are mostly chosen heuristically. In this paper, we propose a novel generative approach to learn hash functions through Minimum Description Length principle such that the learned hash codes maximally compress the dataset and can also be used to regenerate the inputs. We also develop an efficient learning algorithm based on the stochastic distributional gradient, which avoids the notorious difficulty caused by binary output constraints, to jointly optimize the parameters of the hash function and the associated generative model. Extensive experiments on a variety of large-scale datasets show that the proposed method achieves better retrieval results than the existing state-of-the-art methods.

연구 동기 및 목표

• 기존의 학습 기반 해싱 방법에서 흔히 볼 수 있는 히우리스틱적이고 이론적 기반 없이 설계된 목적 함수의 부족을 해결하기 위해.
• 해시 함수 학습에서 이산적인 이진 출력을 최적화하는 데 어려움이 존재하는 문제를 해결하기 위해, 이진 제약 조건의 히우리스틱적 완화를 필요로 하지 않도록 하기 위해.
• 표현 학습을 향상시키기 위해 정방향(입력에서 해시 코드로)과 역방향(해시 코드에서 입력 재구성으로) 과정을 모두 모델링하는 통합 프레임워크를 개발하기 위해.
• 이산 최적화 문제의 과제를 피하면서도 효율적인 엔드 투 엔드 훈련을 가능하게 하는 확률적 분포 기반 경사 하강법을 사용해 해시 함수를 훈련하기 위해.
• 최소한의 하이퍼파rameter 튜닝으로 최신 기술 수준의 검색 성능를 달성하면서도, 해시 코드로부터 고품질의 입력 재구성을 유지하기 위해.

제안 방법

• 해싱을 생성 모델링 문제로 재정의하여, MDL 원리를 사용해 인코딩을 위한 조건부 분포 $ q(h|x) $와 디코딩을 위한 분포 $ p(x|h) $를 함께 학습한다.
• 재파rameterization과 분포 도함수를 활용해 이산 변수에 대한 편향 없는 경사 추정치를 계산하는 확률적 분포 기반 경사 하강 알고리즘을 적용한다.
• 입력을 이진 코드에서 재구성하기 위해 단순하면서도 효과적인 생성 모델 $ p(x|h) $를 사용한다. 예를 들어 가우시안 혼합 모델 또는 선형 디코더를 사용할 수 있다.
• 학습된 $ q(h|x) $에서 유도된 해시 함수는 생성 모델 하에서 데이터셋의 기술 길이를 최소화하도록 최적화된다.
• 이중 이진 코드에 대한 분포 최적화를 직접 수행함으로써 이진 제약 조건의 완화를 피하며, 전체 시스템의 미분 가능 훈련을 가능하게 한다.
• 비지도 및 준지도 설정 모두를 다룰 수 있도록 프레임워크를 확장하였으며, 다양한 데이터 유형과 생성 모델에 유연하게 적응할 수 있다.

실험 결과

연구 질문

• RQ1 MDL 기반의 원리적인 생성 프레임워크는 히우리스틱 목적 함수에 비해 학습된 이진 해시 함수의 품질을 향상시킬 수 있는가?
• RQ2 이중 제약 조건의 완화 기법에 의존하지 않고도 확률적 분포 기반 경사 하강법이 이산 이진 코드를 효과적으로 최적화할 수 있는가?
• RQ3 인코딩과 디코딩 과정을 함께 학습함으로써 더 나은 검색 성능와 재구성 품질을 달성할 수 있는가?
• RQ4 하이퍼파rameter 튜닝에 대한 민감도 측면에서 기존 최신 기술 수준의 해싱 방법과 비교해 본다면, 제안된 방법은 검색 정확도와 안정성 면에서 어떻게 다른가?
• RQ5 학습된 템플릿을 시각적으로 점검했을 때 각 비트가 서로 겹치지 않고 의미 있는 특징을 담고 있음을 보여주는가? 이는 비트 표현이 비어 있지 않고 의미 있는 특징을 담고 있음을 시사한다.

주요 결과

• SGH는 MNIST, SIFT-1M, GIST-1M, SIFT-1B에서 L2NNS 작업 전반에 걸쳐 최신 기술 수준의 성능을 달성하며, ITQ, PCA, 이진 오토에인코더와 같은 기존 방법들을 일관되게 능가한다.
• 64비트 코드를 사용한 SIFT-1B 데이터셋에서 SGH는 Recall10@1000가 92.3%를 기록하여 다음으로 좋은 방법보다 5퍼센트 이상 높게 성과를 내었다.
• 이 방법은 뛰어난 재구성 품질을 보이며, ITQ가 재구성에 32배 더 많은 비트를 사용하더라도 SGH가 생성한 이미지는 더 선명하고 인식 가능성이 높다.
• SGH는 64비트 코드로 재구성을 통해 PCA가 2048비트를 사용할 때의 품질에 도달하며, 이는 매우 높은 압축 효율성을 보여준다.
• 기존 방법들보다 하이퍼파rameter 튜닝에 덜 민감하며, 모든 실험에서 고정된 학습률과 배치 크기를 사용해도 강력한 성능을 달성한다.
• 학습된 템플릿을 시각적으로 점검한 결과, 각 비트가 서로 다른 의미 있는 특징을 담고 있으며, 합성곱 필터와 유사한 형태를 띠고 있어 비트 사용의 효율성과 비중복성을 시사한다.