[論文レビュー] EfficientAD: Accurate Visual Anomaly Detection at Millisecond-Level Latencies

Kilian Batzner, Lars Heckler+1 more|arXiv (Cornell University)|Mar 25, 2023

Anomaly Detection Techniques and Applications被引用数 8

ひとこと要約

EfficientAD は、軽量パッチ記述ネットワーク、新規の hard feature loss、そして論理的異常の自己符号化器を用いて、ミリ秒レベルのレイテンシで最先端の異常検知と局在化を実現し、産業データセットでの速度と精度を向上させる。

ABSTRACT

Detecting anomalies in images is an important task, especially in real-time computer vision applications. In this work, we focus on computational efficiency and propose a lightweight feature extractor that processes an image in less than a millisecond on a modern GPU. We then use a student-teacher approach to detect anomalous features. We train a student network to predict the extracted features of normal, i.e., anomaly-free training images. The detection of anomalies at test time is enabled by the student failing to predict their features. We propose a training loss that hinders the student from imitating the teacher feature extractor beyond the normal images. It allows us to drastically reduce the computational cost of the student-teacher model, while improving the detection of anomalous features. We furthermore address the detection of challenging logical anomalies that involve invalid combinations of normal local features, for example, a wrong ordering of objects. We detect these anomalies by efficiently incorporating an autoencoder that analyzes images globally. We evaluate our method, called EfficientAD, on 32 datasets from three industrial anomaly detection dataset collections. EfficientAD sets new standards for both the detection and the localization of anomalies. At a latency of two milliseconds and a throughput of six hundred images per second, it enables a fast handling of anomalies. Together with its low error rate, this makes it an economical solution for real-world applications and a fruitful basis for future research.

研究の動機と目的

• リアルタイムな産業現場に適した高速で正確な視覚異常検知手法を開発する。
• 現代のGPUで1 ms未満で動作する効率的なパッチベース特徴抽出器を設計する。
• テスト時コストを増加させずに student–teacher の異常検知を改善する損失を導入する。
• 論理的異常を検出する自己符号化器を組み込み、その出力を student–teacher 信号と統合する。
• 局所およびグローバルな異常信号を融合するための較正された組み合わせと正規化技術を提供する。

提案手法

• 事前学習済み分類器から特徴を蒸留して33×33パッチを生成し、全畳み込みカバーを達成する軽量なパッチ記述ネットワーク（PDN）を導入する。
• 効率的なPDN特徴を用いて異常パッチを検出する teacher と student の両方を用いる student–teacher フレームワークを採用する。
• 最も困難なパッチ特徴のみに逆伝播させる hard feature loss を提案し、正常領域での模倣を制限して異常感度を向上させる。
• student が out-of-distribution 入力への模倣を過度に一般化しないよう、事前学習時のペナルティを追加する。
• 自己符号化器を組み込み、グローバルな論理制約を学習させ、student が教師と自己符号化器の出力の両方を予測するよう訓練して論理的異常を検出できるようにする。
• 局所とグローバルの異常マップを分位ベースのアプローチで正規化し、最終的な異常スコアマップへの堅牢な融合を実現する。

実験結果

リサーチクエスチョン

• RQ1 標準的な産業データセット上でミリ秒レベルの異常検知を可能にする高効率な特徴抽出器は作成できるか。
• RQ2 学習を hard features に集中させる損失が、レイテンシを犠牲にせず異常検知を改善できるか。
• RQ3 論理制約の自己符号化器を軽量な student–teacher モデルと組み合わせて、論理的異常の検出を改善できるか。
• RQ4 局所およびグローバルな異常信号をどのように較正・融合すれば検出・局在性能を最大化できるか。
• RQ5 多様な産業データセット（MVTec AD、VisA、MVTec LOCO）全体で、モデルサイズ、速度、精度のトレードオフはどうなるか。

主な発見

Method	Detect. AU-ROC	Segment. AU-PRO	Latency [ms]	Throughput [img / s]
GCAD	85.4	88.0	11	121
SimpleNet	87.9	74.4	12	194
S–T	88.4	89.7	75	16
FastFlow	90.0	86.5	17	120
DSR	90.8	78.6	17	104
PatchCore	91.1	80.9	32	76
PatchCoreEns	92.1	80.7	148	13
AST	92.4	77.2	53	41
EfficientAD-S	95.4	92.5	2.2	614
EfficientAD-M	96.0	93.3	4.5	269

• EfficientAD は、約2 ms のレイテンシと約600 画像/秒のスループット（EfficientAD-S）で先端的な異常検知と局在性能を達成。
• EfficientAD-M は検知をさらに向上させ、AU-ROC 96.0%、AU-PR0 93.3%、レイテンシ4.5 ms、スループット269 画像/秒。
• 提案された hard feature loss は、ベースラインの student–teacher セットアップに対して約1.0 ポイントの AU-ROC の改善を提供。
• 事前学習ペナルティは、推論コストを低く保ちながら検知性能をさらに向上させる。
• 分位ベースのマップ正規化は、データセットコレクション全体で局所およびグローバル異常マップの融合を安定化させる。
• EfficientAD は、MVTec AD、VisA、MVTec LOCO の32の異常検知シナリオで、GCAD、SimpleNet、S–T、FastFlow、DSR、PatchCore、AST などの様々なベースラインを上回る。