[論文レビュー] Learning Hash Codes via Hamming Distance Targets

Martin Loncaric, Bowei Liu+1 more|arXiv (Cornell University)|Oct 1, 2018

Advanced Image and Video Retrieval Techniques参考文献 16被引用数 4

ひとこと要約

本論文は、二値ハッシュコードの学習を向上させるために、2つの入力がターゲットハミング距離内に入る確率を対数尤度損失を用いてモデル化する、新しい損失関数であるハミング距離ターゲット（HDT）を提案する。この手法は、効率的なミニバッチペアサンプリングとマルチインデキシングを用い、高速な検索を実現し、ImageNetでは84%のMAP、SIFT-1Mでは12,709回の距離比較で78.1%のリCALLを達成するという最先端の性能を示し、従来手法に比べてクエリ効率が最大8倍向上した。

ABSTRACT

We present a powerful new loss function and training scheme for learning binary hash codes with any differentiable model and similarity function. Our loss function improves over prior methods by using log likelihood loss on top of an accurate approximation for the probability that two inputs fall within a Hamming distance target. Our novel training scheme obtains a good estimate of the true gradient by better sampling inputs and evaluating loss terms between all pairs of inputs in each minibatch. To fully leverage the resulting hashes, we use multi-indexing. We demonstrate that these techniques provide large improvements to a similarity search tasks. We report the best results to date on competitive information retrieval tasks for ImageNet and SIFT 1M, improving MAP from 73% to 84% and reducing query cost by a factor of 2-8, respectively.

研究の動機と目的

• 類似検索におけるデータから結果へのハッシング手法の低性能を是正するため、二値ハッシュコード学習のための訓練信号を改善すること。
• 2つの入力がターゲットハミング距離内にある確率をモデル化する、微分可能で汎用的な損失関数を開発すること。
• 近似最近傍検索におけるクエリコストを低減しつつ、より良いハッシュコード学習とマルチインデキシングを用いてリCALLを維持または向上させること。
• エンドツーエンドに学習されたハッシュコードを用いて、ImageNet や SIFT-1M といった競争的ベンチマークで最先端の性能を示すこと。

提案手法

• HDT損失関数は、2つの入力がハミング距離ターゲット内に入る確率の対数尤度を用い、事前バイナライズされた出力分布のシグモイドベースのモデルで近似する。
• 訓練方式は、各ミニバッチ内に存在するすべての入力ペアをサンプリングし、それらの間で損失項を計算することで、勾配推定を改善する。
• この手法は任意の微分可能なモデルおよび類似度関数と互換性があり、ニューラルネットワークのエンドツーエンド訓練による二値ハッシングを可能にする。
• マルチインデキシングを用いて、ターゲットハミング距離内での結果の効率的検索を実現し、高速かつスケーラブルな類似度検索を可能にする。
• 出力が±1に収束するよう促進するため、温度スケジューリング付きシグモイドを用いることで、バイナリゼーションの安定性を向上させる。
• ハミング距離ターゲット（r）、誤検出のための損失比（λ）、ハッシュビット長（n）といったハイパーパrameterは、リCALLとクエリコストの最適化を目的に調整される。

実験結果

リサーチクエスチョン

• RQ1 ハミング距離近接確率をモデル化する微分可能な損失関数が、二値ハッシュコード学習を改善できるか？
• RQ2 ミニバッチ内で全ペアワイズ損失を計算することで勾配推定を向上させた場合、ハッシングにおける一般化性能が向上するか？
• RQ3 HDTは、ImageNet や SIFT-1M といった標準ベンチマークで最先端の性能を達成できるか？ また、クエリコストを低減できるか？
• RQ4 なぜHDTは短いハッシュ長で優れた性能を示すのか？ 一般的に長ビットハッシュが常に優れるという期待に反する。
• RQ5 ハミング距離確率の統計的モデリングは、交差エントロピーまたはL2量子化損失といった標準損失関数と比較してどのように異なるか？

主な発見

• ImageNetでは16ビットで83.8%のMAPを達成し、次に優れた手法に比べて10.5%の絶対的向上を示し、84%のMAPはこれまでで最高の結果である。
• SIFT-1MではHDT-Eが12,709回の距離比較で78.1%のリCALLを達成し、74.4%のリCALLを達成するため101,158回の比較を要するPQ（積分量子化）を上回った。
• SIFT-1Mではクエリコストを2〜8倍まで低減し、ImageNetでは従来手法に比べてMAPを11ポイント向上させた。
• 高いリCALL領域でもPQを上回る性能を示し、優れた効率性と有効性を実証した。
• 短いビット長（例：16ビット）でも優れた性能を示し、高い表現効率を示し、長ビット長では過学習の可能性があることを示唆した。
• マルチインデキシングの活用により、ターゲットハミング距離内での高速な検索が可能となり、HDTは大規模応用において実用的であることが分かった。