[論文レビュー] Asymmetric Deep Supervised Hashing

Qing-Yuan Jiang, Wu-Jun Li|arXiv (Cornell University)|Jul 26, 2017

Advanced Image and Video Retrieval Techniques参考文献 30被引用数 7

ひとこと要約

この論文は、大規模な近似最近傍探索のための新しい深層学習手法である非対称的ディープ教師ありハッシュ化（ADSH）を提案する。この手法は、クエリ点とデータベース点を非対称的に扱い、クエリ点のための深層ハッシュ関数を学習する一方で、データベース点のバイナリコードを直接最適化する。この設計により、対称的なディープハッシュ化手法と比較して著しく高速な学習と優れた性能を達成でき、CIFAR-10 や NUS-WIDE といった大規模データセットにおいて最先端の精度を実現する。

ABSTRACT

Hashing has been widely used for large-scale approximate nearest neighbor search because of its storage and search efficiency. Recent work has found that deep supervised hashing can significantly outperform non-deep supervised hashing in many applications. However, most existing deep supervised hashing methods adopt a symmetric strategy to learn one deep hash function for both query points and database (retrieval) points. The training of these symmetric deep supervised hashing methods is typically time-consuming, which makes them hard to effectively utilize the supervised information for cases with large-scale database. In this paper, we propose a novel deep supervised hashing method, called asymmetric deep supervised hashing (ADSH), for large-scale nearest neighbor search. ADSH treats the query points and database points in an asymmetric way. More specifically, ADSH learns a deep hash function only for query points, while the hash codes for database points are directly learned. The training of ADSH is much more efficient than that of traditional symmetric deep supervised hashing methods. Experiments show that ADSH can achieve state-of-the-art performance in real applications.

研究の動機と目的

• データベースサイズに比例して2乗的に増加する対称的ディープ教師ありハッシュ化手法の高い計算コストを低減すること。
• 生成されたハッシュ関数を介してではなく、直接的にデータベース点のバイナリハッシュコードを学習することで、検索精度を向上させること。
• 学習用にサブセットをサンプリングする必要がないため、大規模データベースにおける効率的な学習を可能にすること。
• クエリ点とデータベース点を異なる方法で扱う非対称学習の有効性を深層教師ありハッシュ化において検証すること。
• 最小限の学習オーバーヘッドで実世界の応用において最先端の性能を達成すること。

提案手法

• ADSH は、クエリ点のための深層ニューラルネットワークのみを学習し、データベース点は直接最適化によってバイナリハッシュコードを割り当てる非対称アーキテクチャを採用する。
• この手法は、ペairワイズまたはトリプレットの監視情報を用いて、クエリ用の深層ニューラルネットワークとデータベース用のバイナリコードの両方を同時に最適化する学習目的を定式化する。
• ビットごとの学習戦略を用いてデータベースのハッシュコードを最適化し、これはクエリネットワークを介して生成するのと比較して、実験的により高い精度を示す。
• クエリ関数とデータベースコードの学習を分離することで、学習コストを O(n²) から O(n) に削減し、フルデータベースでの学習を可能にする。
• 深層特徴の学習とハッシュコードの最適化の両方を、監視情報（例：ペアワイズまたはトリプレットラベル）によってガイドする。
• 類似したサンプルが類似したハッシュコードにマップされるように保証するため、マージンに基づく損失関数を用いることで、検索精度を向上させる。

実験結果

リサーチクエスチョン

• RQ1 非対称的学習が、検索精度を維持または向上させつつ、より高速な学習を可能にするか？
• RQ2 データベース点のバイナリハッシュコードを直接最適化することで、学習済みハッシュ関数を介して生成するのと比較して、より高い性能が得られるか？
• RQ3 ADSH は、計算コストが著しく増加するのを防ぎつつ、全データベースを学習に活用できるか？
• RQ4 大規模データセットにおいて、ADSH は対称的ディープハッシュ化手法と比較して、精度と学習効率の両面で優れているか？
• RQ5 非対称設計は、実世界の応用において、対称的ディープハッシュ化の代替手段として実用的かつ優れた選択肢であるか？

主な発見

• ADSH は、CIFAR-10 および NUS-WIDE データセットの両方で、DSH や DHN、DPSH といったすべてのベースラインを上回る最先端の平均平均精度（MAP）を達成する。
• 48ビットコードを用いた CIFAR-10 では、ADSH の MAP は 0.9074 に達し、DPSH（0.8216）や DSH（0.7844）を著しく上回る。
• 48ビットコードを用いた NUS-WIDE では、ADSH の MAP は 0.9074 に達し、次に優れたベースライン（COSDISH-D で 0.8670）を上回る。
• フルデータベースを用いた場合、ADSH は対称的ディープハッシュ化ベースラインと比較して最大 10 倍速く学習が可能で、データセットサイズの増加に伴い学習時間の増加が緩やかになる。
• NUS-WIDE データベース全体（10,500 サンプル）を用いた場合、ADSH は 10 時間未満でより高い精度を達成するが、対称的手法はサブセットをサンプリングして学習するだけで 10 時間以上かかっても収束しない。
• アブレーションスタディにより、直接的にデータベースコードを学習する（ADSH-D）方が、クエリネットワークを介して生成するのと比較して、より高い精度であることが確認され、非対称設計の有効性が裏付けられる。