[論文レビュー] Transfer Hashing with Privileged Information

Joey Tianyi Zhou, Xinxing Xu+4 more|arXiv (Cornell University)|May 13, 2016

Advanced Image and Video Retrieval Techniques参考文献 25被引用数 8

ひとこと要約

本稿では、データが乏しいターゲットドメインにおけるハッシング性能を向上させるために、ソースドメインからの特権的データを活用する新しいフレームワークである、特権情報を用いたトランスファーハッシング（THPI）を提案する。イテレーティブ量子化（ITQ）を特権的情報で正則化されたスラック関数で拡張し、LapITQ+によってグラフ構造を統合することで、特に限られたターゲット学習データの下で最先端の性能を達成し、ベンチマークデータセットにおけるMAPでベースラインを1–2%上回った。

ABSTRACT

Most existing learning to hash methods assume that there are sufficient data, either labeled or unlabeled, on the domain of interest (i.e., the target domain) for training. However, this assumption cannot be satisfied in some real-world applications. To address this data sparsity issue in hashing, inspired by transfer learning, we propose a new framework named Transfer Hashing with Privileged Information (THPI). Specifically, we extend the standard learning to hash method, Iterative Quantization (ITQ), in a transfer learning manner, namely ITQ+. In ITQ+, a new slack function is learned from auxiliary data to approximate the quantization error in ITQ. We developed an alternating optimization approach to solve the resultant optimization problem for ITQ+. We further extend ITQ+ to LapITQ+ by utilizing the geometry structure among the auxiliary data for learning more precise binary codes in the target domain. Extensive experiments on several benchmark datasets verify the effectiveness of our proposed approaches through comparisons with several state-of-the-art baselines.

研究の動機と目的

• ターゲットドメインにラベル付きまたはラベルなしのデータが不足する場合に生じるデータスパarsityの問題に対処すること。
• トレーニング時のみ利用可能な特権的情報（例：アマゾンのプロフェッショナル製品画像など）を備えたソースドメインからの補助的データを活用すること。
• 最小限のターゲットデータで、ソースドメインからターゲットドメインへの知識を転送するトランスファーラーニングフレームワークを構築すること。
• ソースドメインの幾何的構造を統合することで、ハッシュコードの学習をさらに精緻化し、一般化性能を向上させること。
• 特権的情報が、必要なターゲット学習データ量を著しく削減しながら、検索精度を維持または向上させられることを示すこと。

提案手法

• 特権的データから学習される新しいスラック関数を用いて、ターゲットドメインの量子化誤差を正則化する、イテレーティブ量子化（ITQ）の拡張版であるITQ+を提案する。
• ITQ+の最適化問題を解くための交互最適化アルゴリズムを定式化し、ハッシュ関数とスラック関数を同時に学習する。
• ソースドメインのデータ幾何から得られるグラフベースの事前分布を組み込んだLapITQ+を導入し、ハッシュコードの精度を向上させる。
• ソースドメインデータの潜在的な多様体構造を活用して、ターゲットドメインにおけるバイナリーコードの学習をガイドし、一般化性能を向上させる。
• 2段階の学習プロセスを適用する：まず、すべての利用可能なソースデータ（対応しないデータを含む）を用いてソースドメインのハッシュコードを学習し、次にその構造をターゲットドメインの学習を正則化するために使用する。
• 2つのハイパーパrameter、λ₁（スラック正則化）およびλ₂（グラフ正則化）を用いて目的関数を最適化し、実験でハイパーパrameter選択に対する頑健性が確認された。

実験結果

リサーチクエスチョン

• RQ1 ソースドメインからの特権的情報が、限られた学習データを有するターゲットドメインにおけるハッシング性能を顕著に向上させることができるか？
• RQ2 特権的データから導出されるスラック関数を組み込むことで、低データ環境下における標準的なITQと比較して、量子化誤差の低減がより顕著に達成できるか？
• RQ3 ソースドメインデータの幾何的構造をモデル化することで、ターゲットドメインにおける学習済みバイナリーコードの質がさらに向上するか？
• RQ4 データが乏しい条件下で、提案手法は最先端のハッシングベースラインと比較して、平均平均精度（MAP）でどのように差をつけるか？
• RQ5 ハイパーパrameter λ₁ および λ₂ の変動に対して、提案手法の性能は頑健であるか？

主な発見

• ITQ+およびLapITQ+は、CVA-ITQ、CVH、DSHを含むすべてのベースラインを一貫して上回り、特にターゲットドメインの学習データが限られている状況で顕著な優位性を示した。
• BBC、Reuters、NUS-WIDEの各データセットにおいて、LapITQ+はすべてのビット長でITQ+を1–2%上回るMAPを達成し、グラフ構造の有効性を示した。
• ターゲットデータの10%しか使用しない状況でも、ITQ+およびLapITQ+は他の手法と比較して顕著に高いMAPを達成し、データスパース状況下での優れた一般化性能を示した。
• Top-K精度の結果から、提案手法はすべてのK値において優れた検索性能を維持しており、特に初期検索順位での一貫した向上が確認された。
• ハイパーパrameter分析の結果、LapITQ+はハイパーパrameter設定に対して頑健であり、λ₁およびλ₂を広い範囲で変化させても性能低下が最小限に抑えられた。
• すべてのベンチマークで、直接的なデータ統合やCCAベースの前処理よりも、特権的データから導出されたスラック関数が優れた性能を示した。