[論文レビュー] Explainable Deep One-Class Classification

Philipp Liznerski, Lukas Ruff+4 more|arXiv (Cornell University)|Jul 3, 2020

Anomaly Detection Techniques and Applications参考文献 61被引用数 94

ひとこと要約

FCDD は fully convolutional networks を用いた one-class objective と組み合わせ、説明として異常のヒートマップを生成し、競争力のある異常検知と MVTec-AD 上での画素単位の説明の最先端を実現し、ground-truth anomaly maps を用いた半教師付き微調整の利点を享受する。

ABSTRACT

Deep one-class classification variants for anomaly detection learn a mapping that concentrates nominal samples in feature space causing anomalies to be mapped away. Because this transformation is highly non-linear, finding interpretations poses a significant challenge. In this paper we present an explainable deep one-class classification method, Fully Convolutional Data Description (FCDD), where the mapped samples are themselves also an explanation heatmap. FCDD yields competitive detection performance and provides reasonable explanations on common anomaly detection benchmarks with CIFAR-10 and ImageNet. On MVTec-AD, a recent manufacturing dataset offering ground-truth anomaly maps, FCDD sets a new state of the art in the unsupervised setting. Our method can incorporate ground-truth anomaly maps during training and using even a few of these (~5) improves performance significantly. Finally, using FCDD's explanations we demonstrate the vulnerability of deep one-class classification models to spurious image features such as image watermarks.

研究の動機と目的

• 安全性・セキュリティ・意思決定支援の文脈で、説明可能な深層異常検知の必要性を動機づける。
• 出力が解釈可能な異常ヒートマップとなる深層 one-class 分類器を開発する。
• 標準ベンチマーク（Fashion-MNIST、CIFAR-10、ImageNet）および製造データ（MVTec-AD）での性能を評価する。
• ground-truth anomaly maps が訓練を改善する方法と、説明がモデル挙動を明らかにする方法を示す。

提案手法

• 空間的に保存された特徴を用いて、画像を低解像度の異常ヒートマップへマッピングするために、Fully Convolutional Network (FCN) を用いる。
• 名義データを中心へ、異常を遠ざけるようにハイパースフィア分類器目的 (HSC) の派生を採用し、pseudo-Huber loss を用いる。
• 異常ヒートマップ A(X) を FCN の出力を堅牢なロスで変換して定義し、A(X) の L1 ノルムを異常スコアとして用いる。
• 低解像度のヒートマップを、原理的な受容野ベースのガウスアップサンプリング方式で（固定ガウスカーネルを用いたストライド転置畳み込みで）高解像度へアップサンプリングする。
• 合成または実データの異常を用いた Outlier Exposure (OE) からの学習をサポートし、利用可能な場合はピクセルレベルの異常マップを用いた半教師あり訓練を可能にする。
• 異常スコアと本質的に結びついた説明メカニズムを提供し、異常に寄与する画像領域を検査できるようにする。

実験結果

リサーチクエスチョン

• RQ1 one-class の深層学習モデルは、異常スコアに結びついた解釈可能な空間的異常ヒートマップを生成できるか？
• RQ2 既存手法と比較して、OE の有無にかかわらず、標準的な異常検知ベンチマークで FCDD はどの程度の性能を示すか？
• RQ3 グラウンドトゥルース異常マップを（たとえまばらでも）組み込むことは、半教師あり setting で検出と説明品質を向上させるか？
• RQ4 生成された説明は偽りの特徴（Clever Hans 効果）に対して頑健で、そうした脆弱性を明らかにできるか？
• RQ5 ノイズと構造の観点から、ヒートマップは勾配ベースおよび再構成ベースの説明とどう比較されるか？

主な発見

• FCDD は CIFAR-10 および ImageNet で最先端に近い競争力のある異常検知性能を達成し、同時に解釈可能なヒートマップを説明として提供する。
• MVTec-AD では、FCDD が監視なしの画素単位異常局在化の新たな最先端を設定し、ground-truth anomaly maps を使用した半教師あり設定でさらなる向上を達成する。
• FCDD のヒートマップは勾配ベースまたは自己符号化器の説明よりノイズが少なく、構造化されており、検出の解釈性を向上させる。
• 本手法は深層 one-class モデルにおける偽の特徴（Clever Hans 効果）への脆弱性を明らかにでき、透明な説明の価値を示している。
• FCDD は Outlier Exposure および合成異常の効果的な活用をサポートし、最小限のラベル付き異常データでも強力な説明を実現する。