[論文レビュー] Explainable Deep Few-shot Anomaly Detection with Deviation Networks

Guansong Pang, Choubo Ding+2 more|arXiv (Cornell University)|Aug 1, 2021

Anomaly Detection Techniques and Applications参考文献 68被引用数 43

ひとこと要約

DevNetとは、ガウス事前分布と MIL ベースの逸脱損失に導かれ直接異常スコアを学習する、少数ショット異常検知のための偏差ベースのエンドツーエンド深層フレームワークを提示し、オープンセット検知と説明を可能にする。

ABSTRACT

Existing anomaly detection paradigms overwhelmingly focus on training detection models using exclusively normal data or unlabeled data (mostly normal samples). One notorious issue with these approaches is that they are weak in discriminating anomalies from normal samples due to the lack of the knowledge about the anomalies. Here, we study the problem of few-shot anomaly detection, in which we aim at using a few labeled anomaly examples to train sample-efficient discriminative detection models. To address this problem, we introduce a novel weakly-supervised anomaly detection framework to train detection models without assuming the examples illustrating all possible classes of anomaly. Specifically, the proposed approach learns discriminative normality (regularity) by leveraging the labeled anomalies and a prior probability to enforce expressive representations of normality and unbounded deviated representations of abnormality. This is achieved by an end-to-end optimization of anomaly scores with a neural deviation learning, in which the anomaly scores of normal samples are imposed to approximate scalar scores drawn from the prior while that of anomaly examples is enforced to have statistically significant deviations from these sampled scores in the upper tail. Furthermore, our model is optimized to learn fine-grained normality and abnormality by top-K multiple-instance-learning-based feature subspace deviation learning, allowing more generalized representations. Comprehensive experiments on nine real-world image anomaly detection benchmarks show that our model is substantially more sample-efficient and robust, and performs significantly better than state-of-the-art competing methods in both closed-set and open-set settings. Our model can also offer explanation capability as a result of its prior-driven anomaly score learning. Code and datasets are available at: https://git.io/DevNet.

研究の動機と目的

• ラベル付き異常がごく少数しか得られない少数ショット異常検知を動機づけ、これに対処する。
• 未見の異常に対応しつつ、正規性の識別的で頑健なモデルを学習する。
• 間接的な特徴学習ではなく、エンドツーエンドの異常スコア学習を提供する。
• 学習されたスコアに結びついた勾配ベースの局在化による異常説明を可能にする。

提案手法

• DevNetは入力をスカラー異常スコアへ写像する異常スコアリング関数を直接学習する。
• ガウス事前分布に基づく参照スコアを用いて異常スコアのエンドツーエンド学習を導く。
• MILベースのトップ-K逸脱損失は、異常に対してはスコアが事前分布から上位尾へ逸脱することを強制し、正常なスコアを事前分布の近くに保つ。
• エンドツーエンドのネットワークは、細粒度特徴学習器と単純な線形異常スコアヘッドを組み合わせる。
• 異常説明は寄与特徴を局在化するための勾配バックプロパゲーションによって達成される。

実験結果

リサーチクエスチョン

• RQ1 限られたラベル付き異常が、SeenおよびUnseenの異常クラスのエンドツーエンド学習を異常スコアへ導くことができるか？
• RQ2 ガウス事前分布と MIL ベースの逸脱損失を活用することで、FSAD におけるサンプル効率と一般化性能は向上するか？
• RQ3 学習されたスコアに結びついた忠実な異常局在化/説明をモデルは提供できるか？
• RQ4 通常データにおける異常汚染に対してアプローチは堅牢で、異なるバックボーンやデータセットにも効果的か？

主な発見

• DevNetは、9つの実世界の画像異常ベンチマークにおいて最先端手法よりサンプル効率と頑健性を向上させる。
• このフレームワークはオープンセット設定で unseen 異常クラスへの一般化性能を向上させる。
• 事前分布に基づく学習により異常スコアは解釈可能で、勾配ベースの説明を用いて入力領域に局在化できる。
• Top-K MIL逸脱学習は最も情報量の多い異常パッチに焦点を当てることで学習を強化し、誤検出を抑える。
• DevNetは検出された異常の説明を支持する正確な異常局在化を提供する。