[論文レビュー] Prototypical Residual Networks for Anomaly Detection and Localization

Hui Zhang, Zuxuan Wu+3 more|arXiv (Cornell University)|Dec 5, 2022

Anomaly Detection Techniques and Applications被引用数 7

ひとこと要約

本論文は、プロトタイプとマルチサイズ自己注意メカニズムを用いて、異常パターンと正常パターン間のマルチスケール特徴残差を学習する、非教師あり異常検出および局所化フレームワーク「プロトタイプ残差ネットワーク（PRN）」を提案する。PRNは、MVTec AD、DAGM、BTADベンチマークで最先端の性能を達成し、画像レベルおよびピクセルレベルの異常局所化において、MVTec ADで平均98.2%のピクセルAUROCを達成している。

ABSTRACT

Anomaly detection and localization are widely used in industrial manufacturing for its efficiency and effectiveness. Anomalies are rare and hard to collect and supervised models easily over-fit to these seen anomalies with a handful of abnormal samples, producing unsatisfactory performance. On the other hand, anomalies are typically subtle, hard to discern, and of various appearance, making it difficult to detect anomalies and let alone locate anomalous regions. To address these issues, we propose a framework called Prototypical Residual Network (PRN), which learns feature residuals of varying scales and sizes between anomalous and normal patterns to accurately reconstruct the segmentation maps of anomalous regions. PRN mainly consists of two parts: multi-scale prototypes that explicitly represent the residual features of anomalies to normal patterns; a multisize self-attention mechanism that enables variable-sized anomalous feature learning. Besides, we present a variety of anomaly generation strategies that consider both seen and unseen appearance variance to enlarge and diversify anomalies. Extensive experiments on the challenging and widely used MVTec AD benchmark show that PRN outperforms current state-of-the-art unsupervised and supervised methods. We further report SOTA results on three additional datasets to demonstrate the effectiveness and generalizability of PRN.

研究の動機と目的

• 産業分野の欠陊検出における、データの不均衡、微細な異常の出現、変動する異常サイズ／形状の課題に対処すること。
• 複数スケールでの異常パターンと正常パターンの特徴残差を学習することで、異常局所化の精度を向上させること。
• 受容 field におけるピクセル単位の不一致を捉えるマルチサイズ自己注意メカニズムにより、多様な異常を堅牢に検出できること。
• 従来の画像レベルの監視の制限を克服し、セグメンテーションマップ再構築のためのピクセルレベルの監視を用いることで、画像レベルの監視を超えること。
• 新しい異常生成戦略により、トレーニング中の一般化と異常の多様性を向上させること。

提案手法

• 中間特徴マップから導出されるマルチスケールプロトタイプを用いて、空間情報を保持したまま正常パターンを表現する。
• 各スケールで、異常画像と最も近いプロトタイプとの間の偏差として特徴マップの残差を計算し、異常固有の偏差を捉える。
• 異なるスケール間での情報交換を可能にするマルチスケールフィュージョンブロックを導入し、異常検出のための特徴表現を強化する。
• 複数の受容フィールドを持つパッチに作用するマルチサイズ自己注意メカニズムを用い、複数の空間スケールでの不一致を検出する。
• 見たことのあるおよび見慣れない外観のばらつきを模擬できるように、異常生成戦略を設計し、トレーニングの多様性と耐性を向上させる。
• ピクセルレベルの監視により、真値の異常セグメンテーションマップの再構築を目的としてモデルを学習させ、正確な局所化を実現する。

実験結果

リサーチクエスチョン

• RQ1 マルチスケールプロトタイプは、異常検出において空間的詳細を保持しつつ、正常パターンを効果的に表現できるか？
• RQ2 マルチサイズ自己注意メカニズムは、サイズや形状が変動する異常の検出を向上させられるか？
• RQ3 異常パターンとプロトタイプ正常パターンの間の特徴残差を学習することは、直接再構築や1クラスモデリングよりも優れた局所化をもたらすか？
• RQ4 セグメンテーションマップ再構築のためのピクセルレベルの監視は、微細な異常を局所化する上で画像レベルの監視を上回るか？
• RQ5 PRNは、異常タイプや外観が異なる多様なデータセットに一般化できるか？

主な発見

• PRNはMVTec ADベンチマークで98.2%の平均ピクセルAUROCを達成し、すべての先行非教師ありおよび教師あり手法を上回っている。
• DAGMデータセットでは、画像AUROCが94.7%、プロスコアが78.0%を達成し、前回の最先端手法を大きく上回っている。
• BTADでは、ピクセルAUROCが97.1%、APが54.0%を達成し、さまざまな産業欠陊タイプに強く一般化していることが示された。
• 定性的な結果から、PRNは微小で不規則な欠陊を含め、さまざまなサイズや形状の異常を正確に局所化でき、正常領域での誤検出を低減している。
• 画像レベルおよびピクセルレベルの両性能において、DRAおよびDevNetを上回っており、画像レベルスコアは高いがピクセルレベルの局所化が悪いという不整合問題を解消している。
• アブレーションスタディにより、マルチスケールプロトタイプとマルチサイズ自己注意メカニズムが重要な構成要素であることが確認され、それらを除去すると性能が著しく低下した。