[論文レビュー] Towards Total Recall in Industrial Anomaly Detection

Karsten Roth, Latha Pemula+4 more|arXiv (Cornell University)|Jun 15, 2021

Anomaly Detection Techniques and Applications被引用数 8

ひとこと要約

PatchCoreは、ImageNetで事前学習されたモデルから得られる中レベルのパッチ特徴量の最大限に代表的なバンクを用いて、工業的欠陋検出のための新規でメモリ効率の良いアプローチを提案する。局所的に集約された特徴量とグリーディなコアセットサブサンプリングを活用することで、MVTec ADで最高99.6%のAUROCを達成するが、推論速度が速く、わずか1つの正常サンプルでも高いサンプル効率を維持する。

ABSTRACT

Being able to spot defective parts is a critical component in large-scale industrial manufacturing. A particular challenge that we address in this work is the cold-start problem: fit a model using nominal (non-defective) example images only. While handcrafted solutions per class are possible, the goal is to build systems that work well simultaneously on many different tasks automatically. The best performing approaches combine embeddings from ImageNet models with an outlier detection model. In this paper, we extend on this line of work and propose extbf{PatchCore}, which uses a maximally representative memory bank of nominal patch-features. PatchCore offers competitive inference times while achieving state-of-the-art performance for both detection and localization. On the challenging, widely used MVTec AD benchmark PatchCore achieves an image-level anomaly detection AUROC score of up to $99.6\%$, more than halving the error compared to the next best competitor. We further report competitive results on two additional datasets and also find competitive results in the few samples regime.\freefootnote{$^*$ Work done during a research internship at Amazon AWS.} Code: github.com/amazon-research/patchcore-inspection.

研究の動機と目的

• トレーニングに使用可能なのは正常（欠陋なし）の画像のみである工業的異常検出におけるコールドスタート問題に対処すること。
• 既存の手法が、工業的欠陋パターンと整合性の悪い高レベル特徴量に依存しているという制限を克服すること。
• テスト時の正常状態の文脈を最大限に活用しながら、計算コストと推論遅延を最小限に抑えること。
• 新しい工業的データセットに対して最小限または完全にファインチューニングなしで、高性能な異常検出と局所化を可能にすること。
• わずか数個の正常サンプルしかない低ショット環境でも強力な性能を発揮すること。

提案手法

• 事前学習済みImageNetバックボーンから得られる中レベルの局所的に集約されたパッチ特徴量のメモリバンクを構築し、微細なパターンと構造的パターンの両方を捉える。
• グリーディなコアセットサブサンプリングを用いてメモリバンク内の冗長性を低減し、ストレージと推論時間を顕著に削減する。
• テスト用パッチとメモリバンクとの間の特徴マッチングスコアを計算することで異常検出を実行し、スコアが高いほど異常と判定する。
• 空間的に意識的な特徴集約を適用して局所的文脈を保持し、局所化の正確性を向上させる。
• バックボーンの異なる層からのマルチスケール特徴量を活用して、微細な欠陋と構造的欠陋の両方を検出する。
• ドメイン固有のファインチューニングを回避する非適応的で転移ベースのアプローチを採用し、多様な工業的タスクへの迅速な展開を可能にする。

実験結果

リサーチクエスチョン

• RQ1 ファインチューニングなしで、非適応的で転移ベースの手法が工業的異常検出でSOTA性能を達成できるか？
• RQ2 中レベルのパッチ特徴量バンクは、高レベル特徴表現と比較して、微細な欠陋と構造的欠陋の検出においてどのように優れているか？
• RQ3 コアセットサブサンプリングは、検出性能を劣化させることなく、どれほどメモリと推論コストを削減できるか？
• RQ4 わずか数個の正常サンプルしかない低ショット環境において、この手法はどれほど効果的か？
• RQ5 PatchCoreはMVTec AD以外の多様な工業的ベンチマークでも十分に一般化できるか？

主な発見

• PatchCoreはMVTec ADベンチマークで画像レベルの異常検出AUROCが99.6%に達し、次に良い競合手法の誤差の半分以下にまで低下した。
• MTDベンチマークではAUROCが97.9%を達成し、先行するSOTA手法と同等またはわずかに上回った。
• mSTCデータセットではピクセル単位のAUROCが91.8%に達し、無教師異常局所化分野で新たなSOTAを樹立した。
• 1つの正常サンプルのみでさえ、先行するSOTA手法と同等の性能を達成し、極めて優れたサンプル効率を示した。
• コアセットサブサンプリングのおかげで推論速度が競争力を持ち、リアルタイムの工業的展開に実用的である。
• 特に低ショット設定において、SPADE や PaDiM などの手法を上回った。