[논문 리뷰] MIHash: Online Hashing with Mutual Information

Fatih Çakir, Kun He외 2명|arXiv (Cornell University)|2017. 03. 27.

Advanced Image and Video Retrieval Techniques참고 문헌 29인용 수 7

한 줄 요약

이 논문은 상호정보량을 품질 측도로 사용하여 불필요한 해시 테이블 갱신을 줄이면서도 높은 검색 정확도를 유지하는 새로운 온라인 해싱 방법인 MIHash를 제안한다. 확률적 경사 하강법을 통해 상호정보량을 최적화함으로써, MIHash는 온라인 및 배치 설정 모두에서 최신 기술 수준의 성능을 달성하며, Places205와 같은 대규모 벤치마크에서 해시 테이블 재계산 횟수를 한 단계 이상 감소시킨다.

ABSTRACT

Learning-based hashing methods are widely used for nearest neighbor retrieval, and recently, online hashing methods have demonstrated good performance-complexity trade-offs by learning hash functions from streaming data. In this paper, we first address a key challenge for online hashing: the binary codes for indexed data must be recomputed to keep pace with updates to the hash functions. We propose an efficient quality measure for hash functions, based on an information-theoretic quantity, mutual information, and use it successfully as a criterion to eliminate unnecessary hash table updates. Next, we also show how to optimize the mutual information objective using stochastic gradient descent. We thus develop a novel hashing method, MIHash, that can be used in both online and batch settings. Experiments on image retrieval benchmarks (including a 2.5M image dataset) confirm the effectiveness of our formulation, both in reducing hash table recomputations and in learning high-quality hash functions.

연구 동기 및 목표

• 해시 함수 갱신 후 빈번한 해시 테이블 재계산이 요구되는 온라인 해싱 시스템의 비효율성을 해결하기 위해.
• 검색 성능과 상관관계가 높은 일반적이고 파라미터가 없는 해시 함수 품질 측도를 개발하기 위해.
• 상호정보량이 향상된 것을 나타낼 때에만 해시 테이블을 갱신함으로써 효율적인 온라인 학습을 가능하게 하기 위해.
• 종합적인 해시 함수 학습을 위한 학습 목표로 상호정보량을 직접 최적화하기 위해.
• 하이퍼파rameter 조정 없이도 온라인 및 배치 설정 모두에서 최신 기술 수준의 검색 정확도를 달성하기 위해.

제안 방법

• 이웃 및 비이웃 간 해밍 거리 분포 사이의 상호정보량 기반 품질 측도를 제안하여 해시 함수의 품질을 평가한다.
• 온라인 설정에서 해시 테이블 갱신 시기를 안내하기 위해 스트리밍 계산이 가능한 상호정보량 추정기법을 도입한다.
• 상호정보량을 최적화하기 위한 확률적 경사 하강법 규칙을 유도하여 온라인 및 딥 러닝을 가능하게 한다.
• 기존 온라인 해싱 방법에 통합할 수 있는 플러그인 모듈을 설계하여 업데이트 빈도를 감소시키되 정확도를 유지한다.
• 선형 및 딥 신경망 아키텍처 모두에 적용하여 종합적인 훈련을 지원한다.
• 상호정보량 추정을 위해 이웃 및 비이웃 해밍 거리 분포를 유지하기 위한 듀얼 스트림 데이터 구조를 사용한다.

실험 결과

연구 질문

• RQ1 온라인 해싱에서 계산 비용과 검색 품질의 균형을 고려할 때, 언제 해시 테이블을 갱신해야 하는가?
• RQ2 상호정보량은 최근접 이웃 검색에서 해시 함수의 효과적인, 파라미터가 없는 품질 측도로 기능할 수 있는가?
• RQ3 확률적 경사 하강법을 통해 상호정보량을 효과적으로 최적화하여 고품질의 해시 함수를 학습시킬 수 있는가?
• RQ4 해시 테이블 갱신 기준으로 상호정보량을 사용할 경우, 성능 저하 없이 상당한 계산 자원 절감이 가능한가?
• RQ5 상호정보량 기반 최적화는 온라인 및 배치 해싱 설정 모두에서 최신 기술 수준의 성능을 달성할 수 있는가?

주요 결과

• MIHash는 250만 장의 이미지로 구성된 Places205 데이터셋에서 기준 온라인 해싱 방법 대비 해시 테이블 재계산 횟수를 한 단계 이상 감소시켰다.
• 배치 설정에서 MIHash는 48비트 코드로 CIFAR-10에서 mAP 0.942를 달성하여 DTSH(0.934)와 DPSH(0.932)를 능가했다.
• 단일 훈련 에포크만으로도 MIHash는 CIFAR-10(48비트)에서 mAP 0.746을 기록하여 FastHash(0.738)와 DTSH(0.702)를 초월했다.
• 상호정보량 품질 측도는 mAP와 같은 표준 검색 지표와 강한 상관관계를 보이며, 이는 그 효과적인 대체 목표로서의 타당성을 입증한다.
• 이 방법은 일반적인 목적의 것으로 간주되며, 기존 온라인 해싱 프레임워크에 플러그인 방식으로 통합되어 재학습 없이도 업데이트 빈도를 감소시킬 수 있다.
• 경쟁 기법들과 달리 마진, 임계값, 기타 하이퍼파rameter 조정 없이도 MIHash는 뛰어난 성능을 달성한다.