[論文レビュー] DistillHash: Unsupervised Deep Hashing by Distilling Data Pairs

Erkun Yang, Tongliang Liu+3 more|arXiv (Cornell University)|May 9, 2019

Advanced Image and Video Retrieval Techniques参考文献 71被引用数 14

ひとこと要約

DistillHashは、局所的なデータ構造から導出されるノイズの多い初期類似度ラベルから、信頼性の高い類似度信号を持つ信頼性の高いデータペアを蒸留することで、性能を向上させる教師なし深層ハッシング手法を提案する。これらの蒸留されたペアに対してベイジアン学習フレームワークを適用することで、ラベルなしの状態で、3つのベンチマークデータセットにおいて最先端の検索精度を達成する。

ABSTRACT

Due to the high storage and search efficiency, hashing has become prevalent for large-scale similarity search. Particularly, deep hashing methods have greatly improved the search performance under supervised scenarios. In contrast, unsupervised deep hashing models can hardly achieve satisfactory performance due to the lack of reliable supervisory similarity signals. To address this issue, we propose a novel deep unsupervised hashing model, dubbed DistillHash, which can learn a distilled data set consisted of data pairs, which have confidence similarity signals. Specifically, we investigate the relationship between the initial noisy similarity signals learned from local structures and the semantic similarity labels assigned by a Bayes optimal classifier. We show that under a mild assumption, some data pairs, of which labels are consistent with those assigned by the Bayes optimal classifier, can be potentially distilled. Inspired by this fact, we design a simple yet effective strategy to distill data pairs automatically and further adopt a Bayesian learning framework to learn hash functions from the distilled data set. Extensive experimental results on three widely used benchmark datasets show that the proposed DistillHash consistently accomplishes the state-of-the-art search performance.

研究の動機と目的

• 教師なし深層ハッシングの性能が、信頼できる監視信号の欠如により低くなる問題に対処すること。
• ノイズの多い初期類似度ラベルから、高い信頼性の高い意味的類似度を持つデータペアを特定・抽出すること。
• これらの蒸留されたペアを活用する自己教師付き学習フレームワークを構築し、有効なハッシュコード学習を実現すること。
• ラベルを必要とせずに、既存の教師なしハッシング手法を上回ること。

提案手法

• 局所的なデータ構造を用いて、データペアに初期のノイズの多い類似度ラベルを割り当てる。
• やや弱い仮定の下で理論的分析を適用し、ベイズ最適分類器と整合するラベルを持つデータペアを特定する。
• ベイズ最適分類器とのラベル整合性に基づいて、自動的に高信頼度のデータペアを蒸留するシンプルで効果的な戦略を採用する。
• 蒸留されたデータセット上でベイジアン学習フレームワークを用いて、表現とハッシュコードを同時に学習する深層ニューラルネットワークを設計する。
• ハミング空間における意味的類似度の保存を最適化するように、蒸留されたデータペアを損失関数に統合する。
• 選択およびフィルタリングにハイパーパrameter o と p を用い、感度分析によりそのロバストネスを確認する。

実験結果

リサーチクエスチョン

• RQ1 局所的なデータ構造から導出されるノイズの多い類似度信号を、高信頼度の意味的類似度を持つペアに精錬できるか？
• RQ2 ベイズ最適分類器との整合性に基づいて、どのような条件下でデータペアを信頼性を持って蒸留できるか？
• RQ3 蒸留されたデータペアを用いた自己教師付き学習フレームワークは、既存の教師なしハッシング手法を上回ることができるか？
• RQ4 o と p といった主要なハイパーパrameterの変化に対して、提案手法の性能はどれほど感度を示すか？

主な発見

• DistillHashは、すべての3つのベンチマークデータセット（FLICKR25K、NUSWIDE、CIFAR10）で最先端の平均平均精度（MAP）を達成した。
• 16ビットハッシングのFLICKR25Kでは、DistillHashはMAP 0.6964を達成し、ベースラインのDistillHash* よりも3.11%高い性能を示した。
• 32ビットハッシングのNUSWIDEでは、DistillHashはMAP 0.6752を達成し、DistillHash* よりも3.95%の向上を示した。
• 128ビットハッシングのCIFAR10では、DistillHashはMAP 0.2895を達成し、DistillHash* よりも3.12%の向上を示した。
• すべての実験で1,000回の訓練イテレーション以内に収束し、効率的な学習が可能であることが示された。
• パラメータ感度分析の結果、o（2–20）およびp（32–128）の変動に対しても性能がロバストであることが確認され、最適値は o=4 および p=48 であった。