[論文レビュー] Patch SVDD: Patch-level SVDD for Anomaly Detection and Segmentation

Jihun Yi, Sungroh Yoon|arXiv (Cornell University)|Jun 29, 2020

Anomaly Detection Techniques and Applications参考文献 33被引用数 57

ひとこと要約

Patch SVDD は自己教師付き学習を用いたパッチ単位の異常検出とセグメンテーションへ Deep SVDD を拡張し、パッチレベルで欠陥を局在化することによって MVTec AD での AUROC を最先端に達成します。

ABSTRACT

In this paper, we address the problem of image anomaly detection and segmentation. Anomaly detection involves making a binary decision as to whether an input image contains an anomaly, and anomaly segmentation aims to locate the anomaly on the pixel level. Support vector data description (SVDD) is a long-standing algorithm used for an anomaly detection, and we extend its deep learning variant to the patch-based method using self-supervised learning. This extension enables anomaly segmentation and improves detection performance. As a result, anomaly detection and segmentation performances measured in AUROC on MVTec AD dataset increased by 9.8% and 7.0%, respectively, compared to the previous state-of-the-art methods. Our results indicate the efficacy of the proposed method and its potential for industrial application. Detailed analysis of the proposed method offers insights regarding its behavior, and the code is available online.

研究の動機と目的

• 画像の異常検出とピクセルレベルの異常セグメンテーションを扱う。
• パッチ単位の処理で欠陥を局在化するために Deep SVDD を活用・拡張する。
• 高いクラス内パッチの変動を扱うため自己教師付き学習を組み込む。
• 検出と局在化を改善するために多スケール・階層的エンコードを可能にする。

提案手法

• Deep SVDD を全画像ではなく各パッチをエンコードするパッチ単位検査に拡張する。
• SVDD ベースの損失と自己教師付き SSL 損失の組合せでパッチエンコーダを訓練し、意味的に有意義なパッチ表現を形成する。
• 自己教師付き学習を用いてパッチの意味的クラスタリングを奨励し、パッチ空間の単一点依存の問題を緩和する。
• 小さな受容野と大きな受容野の情報を捉える多スケール情報をキャプチャする階層的エンコードを適用する。
• 正規パッチ特徴との最近傍距離に基づく異常マップを生成し、複数エンコーダからのマップを要素ごとの乗算で融合する。
• 検出のためにはパッチレベルの異常マップを画像レベルのスコアに集約し、セグメンテーションにはピクセルレベルのマップに集約する。

実験結果

リサーチクエスチョン

• RQ1 パッチ単位の SVDD は全画像版の SVDD のバリアントよりも異常検出とセグメンテーションを改善できるか。
• RQ2 自己教師付き学習を取り入れることでパッチ特徴の意味的構造化と局在化の精度が向上するか。
• RQ3 階層的エンコードは欠陥サイズへの検出頑健性を向上させるか。
• RQ4 産業データセットである MVTec AD においてパッチレベルの最近傍スコアリングは異常識別にどれほど有効か。
• RQ5 複数エンコーダ（マルチスケール）を組み合わせることは最終的な異常マップにどのような影響を与えるか。

主な発見

Task	Method	AUROC
Anomaly Detection	Deep SVDD (ICML'18)	0.592
Anomaly Detection	GEOM (NeurIPS'18)	0.672
Anomaly Detection	GANomaly (ACCV'18)	0.762
Anomaly Detection	ITAE (arXiv'19)	0.839
Anomaly Detection	Patch SVDD (Ours)	0.921
Anomaly Segmentation	L2-AE	0.804
Anomaly Segmentation	SSIM-AE	0.818
Anomaly Segmentation	VEVAE (CVPR'20)	0.861
Anomaly Segmentation	VAE Proj (ICLR'20)	0.893
Anomaly Segmentation	Patch SVDD (Ours)	0.957

• Patch SVDD は MVTec AD における異常検出の最先端 AUROC を達成（0.921）。
• Patch SVDD は MVTec AD における異常セグメンテーションの最先端 AUROC を達成（0.957）。
• 自己教師付き損失 (SSL) と Patch SVDD 損失 (SVDD') は、SVDD' のみを用いる場合よりも検出とセグメンテーションの双方を大幅に改善する。
• 多尺度検査を用いた階層的エンコードは単一スケールのエンコーダよりも性能を向上させる。
• ランダムに初期化されたエンコーダと生パッチは、いくつかのクラスで驚くほど強力なベースラインを提供し、パッチ内のデータ構造の本質を浮き彫りにする。