[論文レビュー] Metric Learning for Novelty and Anomaly Detection

Marc Masana, Idoia Ruiz+3 more|arXiv (Cornell University)|Aug 16, 2018

Anomaly Detection Techniques and Applications参考文献 23被引用数 51

ひとこと要約

この論文は、メトリック学習アプローチを用いて分布外検出を行い、新規性と異常を区別し、交通標識認識を含む複数のベンチマークでクロスエントロピー法と競合する結果を示す。

ABSTRACT

When neural networks process images which do not resemble the distribution seen during training, so called out-of-distribution images, they often make wrong predictions, and do so too confidently. The capability to detect out-of-distribution images is therefore crucial for many real-world applications. We divide out-of-distribution detection between novelty detection ---images of classes which are not in the training set but are related to those---, and anomaly detection ---images with classes which are unrelated to the training set. By related we mean they contain the same type of objects, like digits in MNIST and SVHN. Most existing work has focused on anomaly detection, and has addressed this problem considering networks trained with the cross-entropy loss. Differently from them, we propose to use metric learning which does not have the drawback of the softmax layer (inherent to cross-entropy methods), which forces the network to divide its prediction power over the learned classes. We perform extensive experiments and evaluate both novelty and anomaly detection, even in a relevant application such as traffic sign recognition, obtaining comparable or better results than previous works.

研究の動機と目的

• ニューラルネットワークにおける分布外入力検出の重要性を動機づける。
• OOD検出において新規性（関連する未見クラス）と異常（関連性のないデータ）を区別する。
• ソフトマックスベースの信頼度の落とし穴を回避するメトリック学習フレームワークを提案する。
• 埋め込みベースのアプローチが強力な新規性および異常検出結果を生み得ることを示す。
• 実世界の交通標識認識への適用を通じて実用的性能を検証する。

提案手法

• ユークリッド距離が分布外尤度を測る埋め込みを導入する。
• サンプルを同一クラスに引き寄せ、異なるクラスを分離するように、対比損失（コントラスト損失）などのメトリック学習損失を用いる。
• 訓練中に見られた分布外データと未知の分布外データを含めることで、分布外マイニング（ODM）を損失に組み込み、損失を拡張する。
• シアマンネットワークなしで埋め込みのペアを効率的にマイニングするため、単一ブランチのネットワークを採用する。
• メトリック学習（ML）と分布外マイニング（ODM）をクロスエントロピーのベースラインおよび最先端手法（CC-AG、ODIN）と比較する。

実験結果

リサーチクエスチョン

• RQ1 メトリック学習埋め込みは、ソフトマックスベースの分類器と比べて新規性と異常検出を改善できるか。
• RQ2 埋め込み空間における新規性と異常のOODサンプルの違いはどのようで、ODMはこの分離にどのように影響するか。
• RQ3 訓練時に見られる分布外データを取り入れると、新規性と異常の両方の検出性能は改善されるか。
• RQ4 提案されたODMアプローチは、標準ベンチマーク（SVHN、CIFAR-10）および実世界のタスク（交通標識）で有効か。

主な発見

• メトリック学習は、分布内サンプルがクラスごとにクラスタ化され、分布外サンプルがこれらのクラスタから離れた位置に存在する埋め込みを生み出す。
• 分布外マイニング（ODM）は、分布内と分布外サンプルの分離をさらに改善し、検出を支援する。
• クロスエントロピーベースの手法と比較して、メトリック学習アプローチは新規性と異常の取り扱いが優れており、未知データが自信を持って誤分類されるのを防ぐ効果がある。
• 交通標識認識では、ODMは新規性および異常検出で競合的な性能を達成しつつ、分布内分類性能を大きく損なわない。
• 結果は、分布外データにおける新規性と異常の間に連続体があることを示しており、異常検出の方が新規性検出より容易である。