[論文レビュー] Signal-to-Noise Ratio: A Robust Distance Metric for Deep Metric Learning

Tongtong Yuan, Weihong Deng+3 more|arXiv (Cornell University)|Apr 4, 2019

Advanced Image and Video Retrieval Techniques参考文献 43被引用数 6

ひとこと要約

本稿では、深層度画像学習におけるユークリッド距離の代替として、信号対雑音比（SNR）に基づく新しい距離尺度を提案する。この方法により、クラス内距離の低減とクラス間距離の増大を同時に実現することで、特徴の識別性が向上する。Deep SNRベースのメトリック学習（DSML）は、CARS196、CUB200-2011、CIFAR10などの画像クラスタリングおよび検索ベンチマークで最先端の性能を達成し、CIFAR10およびNUS-WIDEにおける深層ハッシュ化の文脈でもさらなる向上を達成している。

ABSTRACT

Deep metric learning, which learns discriminative features to process image clustering and retrieval tasks, has attracted extensive attention in recent years. A number of deep metric learning methods, which ensure that similar examples are mapped close to each other and dissimilar examples are mapped farther apart, have been proposed to construct effective structures for loss functions and have shown promising results. In this paper, different from the approaches on learning the loss structures, we propose a robust SNR distance metric based on Signal-to-Noise Ratio (SNR) for measuring the similarity of image pairs for deep metric learning. By exploring the properties of our SNR distance metric from the view of geometry space and statistical theory, we analyze the properties of our metric and show that it can preserve the semantic similarity between image pairs, which well justify its suitability for deep metric learning. Compared with Euclidean distance metric, our SNR distance metric can further jointly reduce the intra-class distances and enlarge the inter-class distances for learned features. Leveraging our SNR distance metric, we propose Deep SNR-based Metric Learning (DSML) to generate discriminative feature embeddings. By extensive experiments on three widely adopted benchmarks, including CARS196, CUB200-2011 and CIFAR10, our DSML has shown its superiority over other state-of-the-art methods. Additionally, we extend our SNR distance metric to deep hashing learning, and conduct experiments on two benchmarks, including CIFAR10 and NUS-WIDE, to demonstrate the effectiveness and generality of our SNR distance metric.

研究の動機と目的

• ユークリッド距離が特徴相関を保存できないことや、ロバスト性に欠けるという深層メトリック学習における限界を是正すること。
• 信号処理理論に基づいた新しい距離尺度を設計し、学習された特徴の意味的類似性をよりよく捉えること。
• SNRベースの尺度が複数の深層メトリック学習およびハッシュ化タスクにわたって有効であることを示すこと。
• SNR尺度がユークリッド距離よりも、クラス内分散の最小化とクラス間分離の最大化をより効果的に実現できることを示すこと。

提案手法

• ペアド埋め込みにおける特徴分散と雑音分散の比として定義される信号対雑音比（SNR）に基づく新しい距離尺度を提案する。
• 幾何学的および統計的解析を通じて、SNR尺度の理論的妥当性を示し、ユークリッド距離に比べてロバスト性と相関保存性に優れることを示す。
• SNR尺度を深層メトリック学習フレームワークに統合し、識別的な埋め込みを学習するための新しい目的関数を定式化する。
• 対照的またはトライアングルに類似した損失関数におけるユークリッド距離をSNR尺度に置き換える、Deep SNRベースのメトリック学習（DSML）を構築する。
• 実数値のSNR最適化特徴に符号関数を適用することで、SNR尺度を深層ハッシュに拡張し、バイナリコード学習を可能にする。
• CNN-Fネットワークアーキテクチャを採用し、勾配降下法にモーメンタムを適用して画像データセットの学習を実施する。

実験結果

リサーチクエスチョン

• RQ1 SNRは、深層メトリック学習においてユークリッド距離よりもロバストで情報量の多い距離尺度として機能できるか？
• RQ2 SNRベースの尺度は、学習された特徴空間におけるクラス内コンパクト性とクラス間分離性を向上させるか？
• RQ3 SNR尺度は、メトリック学習およびハッシュ検索タスクの両方において、効果的に一般化可能か？
• RQ4 SNRベースの尺度は、標準ベンチマークにおいて最先端の深層メトリック学習手法と比較してどのように評価されるか？

主な発見

• DSMLは、CARS196、CUB200-2011、CIFAR10における画像クラスタリングおよび検索タスクで最先端の性能を達成し、対照的・トライアングル・Nペア損失に基づく手法を上回っている。
• CIFAR10では、ユークリッド距離およびハミング距離の両方のランク戦略において、DSMLが優れた検索精度を達成しており、MAPスコアはベースライン手法を著しく上回っている。
• t-SNE可視化により、DSMLがユークリッド距離を用いた対照的手法に比べ、より識別性が高く、明確に分離された特徴クラスタを生成することが確認された。
• 提案されたDSNRH手法は、CIFAR10およびNUS-WIDEの両方のハッシュベースラインで、MAP@50000が最高を記録し、両データセットで平均MAPが60％を超えた。
• 特徴空間解析により、SNR尺度がユークリッド距離に比べて、クラス内距離の低減とクラス間距離の拡大をより効果的に実現していることが裏付けられた。
• SNRベースの尺度は強力な一般化性能を示し、メトリック学習およびハッシュ化を含む多様なディープラーニングタスクで高い性能を維持した。