[論文レビュー] The Power of Asymmetry in Binary Hashing

Behnam Neyshabur, Payman Yadollahpour+3 more|arXiv (Cornell University)|Nov 29, 2013

Advanced Image and Video Retrieval Techniques参考文献 15被引用数 57

ひとこと要約

本稿では、クエリとデータベースアイテムに異なるハッシュ関数を用いる非対称バイナリハッシュを提案する。これにより、対称ハッシュと比較して短いコードでより高精度な類似度近似が可能になる。対称類似度測定であっても、非対称コードは特定の状況において、指数的から線形的へと必要なビット長を短縮し、実データセットにおいて最先端の手法を上回る性能を示す。計算コストの増加は最小限に抑えられる。

ABSTRACT

When approximating binary similarity using the hamming distance between short binary hashes, we show that even if the similarity is symmetric, we can have shorter and more accurate hashes by using two distinct code maps. I.e. by approximating the similarity between $x$ and $x'$ as the hamming distance between $f(x)$ and $g(x')$, for two distinct binary codes $f,g$, rather than as the hamming distance between $f(x)$ and $f(x')$.

研究の動機と目的

• 非対称バイナリハッシュ（2つの異なるハッシュ関数を用いる）が、短いコード長で対称ハッシュよりも優れた類似度近似を達成できるかどうかを調査すること。
• 対称類似度測定では対称ハッシュ方式が必須であるという仮定に挑戦すること。
• 非対称ハッシュがコード長を顕著に短縮しつつ、リtrieーブ精度を向上させられることを示すこと。
• 非対称ハッシュが、標準のリtrieーブパイプラインにおいて、追加の計算コスト・通信コスト・ストレージコストなしに実装可能であることを示すこと。

提案手法

• オブジェクト x と x′ 間の類似度を、f(x) と g(x′) のハミング距離によって近似するフレームワークを提案。ここで f と g は異なるバイナリハッシュ関数である。
• f(x) = sign(W₁x + b₁) および g(x) = sign(W₂x + b₂) として、線形しきい値関数を f と g に用い、柔軟かつ学習可能なマッピングを可能にする。
• 学習済みハミング距離とターゲット類似度の乖離を最小化するための訓練目的関数を採用。マージンに基づく損失関数を用いる。
• 2段階の最適化を適用：まず代理類似度に基づいて勾配降下法でハッシュ関数を学習し、次にしきい値処理とスリミングによって最適化を実施。
• 2つのバリエーションを導入：Lin:Lin（両方とも線形）と Lin:V（クエリは線形、データベースは学習済みベクトル）。後者は優れた性能を示す。
• 平均適合度や精度-再現率曲線といった標準的な評価指標を用い、対称ベースラインと性能を比較。

実験結果

リサーチクエスチョン

• RQ1 非対称バイナリハッシュは、短いコード長で対称ハッシュよりも優れた類似度近似を達成できるか？
• RQ2 2つの異なるハッシュ関数を用いることで、対称類似度関数の表現に必要なコード長に理論的利点が得られるか？
• RQ3 実世界のデータセットにおいて、非対称ハッシュは最先端の対称ハッシュ手法と比較して実際の性能をどのように発揮するか？
• RQ4 非対称ハッシュは、計算コストやストレージコストを増加させることなく、標準のリtrieーブシステムに導入可能か？

主な発見

• 特定のユークリッド点集合のクラスにおいて、非対称ハッシュは近傍類似度を O(r) ビットで表現可能である一方、対称ハッシュでは Ω(2^r) ビットを要する。これは、超指数的（super-exponential）な優位性を示している。
• LabelMe データセットにおいて、8ビットの非対称 Lin:V 法は、16ビットの MLH や KSH を上回り、平均適合度 0.54 を達成した。
• 精度-再現率曲線から、Lin:V および Lin:Lin は、すべてのデータセットおよびコード長において、MLH や KSH や BRE を一貫して上回っている。特に短いコード長において顕著な優位性を示している。
• 大規模な Semantic 22K LabelMe データセットにおいて、64ビットの非対称コード（Lin:V）は、64ビットの対称手法（MLH や KSH）を著しく上回るリtrieーブ精度を達成した。
• 非対称性による性能向上は、特に短いコード長において顕著であり、非対称ハッシュが類似度のより効率的な表現を可能にしていることを示している。
• 実装段階では、データベースおよびクエリ処理が対称ハッシュと同一であるため、追加のストレージや計算コストを要しない。