[論文レビュー] Discrete Hashing with Deep Neural Network

Thanh-Toan Do, Anh-Zung Doan+1 more|arXiv (Cornell University)|Aug 28, 2015

Advanced Image and Video Retrieval Techniques参考文献 32被引用数 8

ひとこと要約

本稿では、二値制約を緩和せずに直接二値コードを最適化する新しい教師ありハッシング手法、Discrete Hashing with Deep Neural Networks (SDH-DNN) を提案する。補助変数を用いて最適化を重ねるステップに分離し、重みと二値コードを別々に最適化する。この手法は、CIFAR-10 および MNIST で最先端の性能を達成し、8ビットコードにおいて最大 +17% の mAP 向上を達成した。

ABSTRACT

This paper addresses the problem of learning binary hash codes for large scale image search by proposing a novel hashing method based on deep neural network. The advantage of our deep model over previous deep model used in hashing is that our model contains necessary criteria for producing good codes such as similarity preserving, balance and independence. Another advantage of our method is that instead of relaxing the binary constraint of codes during the learning process as most previous works, in this paper, by introducing the auxiliary variable, we reformulate the optimization into two sub-optimization steps allowing us to efficiently solve binary constraints without any relaxation. The proposed method is also extended to the supervised hashing by leveraging the label information such that the learned binary codes preserve the pairwise label of inputs. The experimental results on three benchmark datasets show the proposed methods outperform state-of-the-art hashing methods.

研究の動機と目的

• 大規模な画像検索のためのコンactで高品質な二値ハッシュコードを学習する課題に対処すること。
• 最適化中に二値制約を緩和する従来の深層ハッシング手法の限界を克服すること。
• 良いハッシュコードに必要な基準（類似性の保存、バランス、独立性）を深層ニューラルネットワークフレームワーク内に統合すること。
• 二値制約を緩和せずに直接処理する効率的な最適化戦略を開発し、コード品質と検索性能を向上させること。

提案手法

• 補助変数を導入して二値最適化問題を、重みと二値コードを別々に最適化する2つの交互最適化ステップに再定式化する。
• 深層ニューラルネットワークの重み最適化に L-BFGS を使用し、二値コードの各ビットを独立して更新するためのサイクル座標降下法を採用する。
• 類似性の保存、バランス（1と0の数が等しいこと）、独立性（相関のないビット）を満たすように、共同目的関数を設計する。
• 教師あり設定では、クラスラベルに基づいてペairwise類似度行列 S を構築し、コード学習をガイドする。
• 連続出力の二値化ではなく、訓練中に直接離散的二値コードを最適化する非緩和最適化戦略を適用する。
• 入力データの構造に基づいて自己構築された類似度行列を用いることで、非教師ありハッシング（UDH-DNN）にこの手法を拡張する。

実験結果

リサーチクエスチョン

• RQ1 二値制約を緩和せずに、深層ニューラルネットワークが離散的二値ハッシュコードを効果的に学習できるか？
• RQ2 目的関数に類似性の保存、バランス、独立性を組み込むことで、従来手法と比較して検索性能が向上するか？
• RQ3 提案された交互最適化戦略は、NP困難な離散最適化問題を効率的に解けるか？
• RQ4 提案手法の性能は、ベンチマークデータセットにおいて最先端の教師ありおよび非教師ありハッシング技術と比較してどうか？

主な発見

• CIFAR-10 において、SDH-DNN は 8ビットコード長で、最先端の教師ありハッシング手法 SDH よりも mAP で +17% 向上した。
• MNIST では、8ビットコードで SDH よりも mAP が +13.9% 向上し、全コード長にわたり一貫した向上を示した。
• 低コード長（8–16ビット）では、mAP およびハミング距離 3および4における精度の両面で、KSH や ITQ-CCA よりも顕著に優れた性能を発揮した。
• 長コード長（32–64ビット）では、SDH と同等の性能を達成しており、強力なスケーラビリティを示した。
• 緩和なしの二値制約処理により、連続出力のしきい値処理よりも高品質なコードが得られた。
• 類似性の保存、バランス、独立性を目的関数に組み込むことで、よりロバストで識別性の高いハッシュコードが得られた。