[論文レビュー] Learning to Hash for Indexing Big Data - A Survey

Jun Wang, Wei Liu+2 more|arXiv (Cornell University)|Sep 17, 2015

Advanced Image and Video Retrieval Techniques参考文献 147被引用数 30

ひとこと要約

本調査は、ビッグデータにおける近似最近傍探索のための学習によるハッシュ化技術について、包括的な概要を提供する。教師なし、半教師あり、教師ありの手法、深層学習に基づくアプローチを含む。学習されたハッシュ関数がハミング空間におけるデータの近接性を保持することにより、高い精度とスケーラビリティを備えた、非線形時間の高速な検索が可能になることを強調する。

ABSTRACT

The explosive growth in big data has attracted much attention in designing efficient indexing and search methods recently. In many critical applications such as large-scale search and pattern matching, finding the nearest neighbors to a query is a fundamental research problem. However, the straightforward solution using exhaustive comparison is infeasible due to the prohibitive computational complexity and memory requirement. In response, Approximate Nearest Neighbor (ANN) search based on hashing techniques has become popular due to its promising performance in both efficiency and accuracy. Prior randomized hashing methods, e.g., Locality-Sensitive Hashing (LSH), explore data-independent hash functions with random projections or permutations. Although having elegant theoretic guarantees on the search quality in certain metric spaces, performance of randomized hashing has been shown insufficient in many real-world applications. As a remedy, new approaches incorporating data-driven learning methods in development of advanced hash functions have emerged. Such learning to hash methods exploit information such as data distributions or class labels when optimizing the hash codes or functions. Importantly, the learned hash codes are able to preserve the proximity of neighboring data in the original feature spaces in the hash code spaces. The goal of this paper is to provide readers with systematic understanding of insights, pros and cons of the emerging techniques. We provide a comprehensive survey of the learning to hash framework and representative techniques of various types, including unsupervised, semi-supervised, and supervised. In addition, we also summarize recent hashing approaches utilizing the deep learning models. Finally, we discuss the future direction and trends of research in this area.

研究の動機と目的

• 高次元のビッグデータにおける最近傍探索のスケーラビリティと効率性の課題に対処する。
• ハッシュ関数のデータ駆動型最適化を活用する学習によるハッシュ化手法を体系的に分類・分析する。
• 教師なし、半教師あり、教師あり、深層学習の異なる学習パラダイムにおける、効率性、精度、理論的保証のトレードオフを検討する。
• 理論的基盤、学習におけるコンパクトコードの使用、マルチモーダル／異種データ統合を含む、未解決の研究課題と今後の方向性を特定する。
• 大規模なリtrievalにおける現代のハッシュ化手法の進化とパフォーマンスを統合的に理解するフレームワークを提供する。

提案手法

• ラベルの使用に基づいて、学習によるハッシュ化手法を教師なし、半教師あり、教師ありの学習パラダイムに分類する。
• 高次元ベクトルをコンパクトなKビットのハミングコードにマッピングするバイナリハッシング技術を調査し、高速な類似度検索を可能にする。
• 特徴表現とハッシュ関数をエンドツーエンドで同時に学習する深層学習ベースのハッシュモデルを分析する。
• ペairワイズ制約、トリプレット損失、マージンベースの最適化などの技術を検討し、ハッシュ空間における意味的近接性を維持する。
• 異種データ（例：画像とテキスト）を共有のハミング空間に統合するマルチモーダルおよびマルチビュー・ハッシング手法を検討する。
• 動画ハッシングのための構造学習や、クロスモーダルインデキシングのための確率的潜在モデルなどの高度なフレームワークを提示する。

実験結果

リサーチクエスチョン

• RQ1 データ駆動型ハッシュ関数は、局所性に優れたハッシング（LSH）のような従来のランダム化手法に比べて、精度と効率性の面でどのように向上するのか？
• RQ2 教師なし、半教師あり、教師ありの学習によるハッシュ化アプローチの間には、どのような主な違いとパフォーマンスのトレードオフがあるのか？
• RQ3 深層ニューラルネットワークは、特徴学習とハッシュコード生成を同時にどのように向上させることができるのか？
• RQ4 現代の学習によるハッシュ化手法は、近似最近傍の質に対して、何らかの理論的保証を提供しているのか？
• RQ5 ハッシュ化は、異種的、マルチモーダル、または構造的データを処理するためにどのように拡張可能であり、意味的類似性を保持できるのか？

主な発見

• 学習によるハッシュ化手法は、データ分布やラベルを活用することで、実世界の応用において従来のランダム化ハッシング（例：LSH）を著しく上回る検索精度を達成する。
• 教師ありおよび半教師ありハッシング手法は、ハミング空間におけるクラスレベルの類似性と意味的類似性を保持することで、画像検索およびモバイルプロダクト検索で最先端のパフォーマンスを達成している。
• シアンセイネットワークやオートエンコーダーを用いる深層学習ベースのハッシュモデルは、高い識別力を持つコンパクトなバイナリコードをエンドツーエンドで学習可能である。
• マルチモーダルおよびマルチビュー・ハッシング手法は、画像やテキストなど多様なデータタイプを共通のハミング空間に統合し、クロスモーダル検索を向上させている。
• 強力な実験的結果にもかかわらず、大多数の学習によるハッシュ化手法は、近傍の質に関する厳密な理論的保証を欠いており、これが主要な未解決課題である。
• コンパクトなハッシュコードは、検索の分野だけでなく、カーネル近似やリソース制限のあるデバイスにおける効率的な学習といった、下流タスクにおいても有望である。