[論文レビュー] Optimizing affinity-based binary hashing using auxiliary coordinates

Ramin Raziperchikolaei, Miguel Á. Carreira-Perpiñán|arXiv (Cornell University)|Jan 21, 2015

Advanced Image and Video Retrieval Techniques参考文献 31被引用数 10

ひとこと要約

この論文は、補助座標を用いてハッシュ関数とバイナリコードを同時に学習することで、アフィニティベースのバイナリハッシングを最適化する新しいフレームワークを提案している。これにより、二つの要素が相互に発展し合い、検索性能が向上する。本手法は反復的にハッシュ関数とコードを精緻化することで、計算コストの増加を最小限に抑えつつ、より高い精度と再現率を達成し、標準的手法を上回る性能を発揮する。

ABSTRACT

In supervised binary hashing, one wants to learn a function that maps a high-dimensional feature vector to a vector of binary codes, for application to fast image retrieval. This typically results in a difficult optimization problem, nonconvex and nonsmooth, because of the discrete variables involved. Much work has simply relaxed the problem during training, solving a continuous optimization, and truncating the codes a posteriori. This gives reasonable results but is quite suboptimal. Recent work has tried to optimize the objective directly over the binary codes and achieved better results, but the hash function was still learned a posteriori, which remains suboptimal. We propose a general framework for learning hash functions using affinity-based loss functions that uses auxiliary coordinates. This closes the loop and optimizes jointly over the hash functions and the binary codes so that they gradually match each other. The resulting algorithm can be seen as a corrected, iterated version of the procedure of optimizing first over the codes and then learning the hash function. Compared to this, our optimization is guaranteed to obtain better hash functions while being not much slower, as demonstrated experimentally in various supervised datasets. In addition, our framework facilitates the design of optimization algorithms for arbitrary types of loss and hash functions.

研究の動機と目的

• ハッシュ関数とバイナリコードを別々に最適化する従来のバイナリハッシング手法の性能が最適でない問題に対処すること。
• ハッシュ関数学習とコード生成の間のフィードバックループを閉じるため、両方のコンポonentを同時に最適化すること。
• 任意の損失関数とハッシュ関数タイプをサポートする汎用的な最適化フレームワークを構築すること。
• 学習されたハッシュ関数とバイナリコードが互いに整合的であることを保証することで、検索精度を向上させること。
• 共同最適化が、顕著な速度低下を伴わずに、より良いコード利用効率と検索性能を実現することを実証すること。

提案手法

• バイナリコードを最適化中のハッシュ関数の補助変数として扱う補助座標フレームワークを導入する。
• 交互最適化のスキームを採用：まず、現在のコードに基づいてハッシュ関数のパラメータを更新し、次に、現在の関数に基づいてコードを更新する。
• 標準的な2段階アプローチ（コード最適化 → 関数学習）の修正・反復版を適用し、より良い解への収束を保証する。
• 最適化中はバイナリ制約を連続的リラクゼーションし、各イテレーションでバイナリコードに射影する。
• 任意のアフィニティベースの損失関数とハッシュ関数をサポートし、モデル設計の柔軟性を提供する。
• 両コンポーネントの反復的精緻化により、目的関数が単調に改善されることを保証する。

実験結果

リサーチクエスチョン

• RQ1 ハッシュ関数とバイナリコードを共同で最適化することで、別々に最適化する従来手法よりも優れた検索性能が得られるか？
• RQ2 提案された補助座標フレームワークは、標準的な2段階手法と比較して、精度と再現率の面で優れているか？
• RQ3 このフレームワークは、任意の損失関数とハッシュ関数アーキテクチャに一般化可能か？
• RQ4 共同最適化は、大規模データセットにおけるコード利用効率と衝突率にどのように影響を与えるか？
• RQ5 提案手法は、大規模画像検索タスクにおいて計算的に実行可能か？

主な発見

• SIFT1M および他のベンチマークデータセットにおいて、標準的な2段階最適化手法と比較して、本手法は顕著に高い精度と再現率を達成した。
• 補助座標による共同最適化は、損失関数の単調な減少をもたらし、より良い解への収束を保証した。
• 有効エントロピー $b_{\text{eff}}$ で測定されるコード利用効率の向上により、コードの衝突が減少し、コードの分布がより均等になった。
• KSH や MAC、tPCA などの最先端手法と比較して、特に教師ありおよび教師なし設定の両方で優れた性能を発揮した。
• 共同最適化の追加の複雑さにもかかわらず、本手法は効率的であり、標準的手法と比べて顕著に遅くならなかった。
• 異なる損失関数やハッシュ関数タイプに対しても、本フレームワークは頑健であり、広範な適用可能性を示した。