[論文レビュー] Attention Modules Improve Image-Level Anomaly Detection for Industrial Inspection: A DifferNet Case Study

André Luiz Buarque Vieira-e-Silva, Francisco Simões+4 more|arXiv (Cornell University)|Nov 5, 2023

Industrial Vision Systems and Defect Detection被引用数 4

ひとこと要約

本稿では、特徴抽出器にチャネルおよび空間アテンションモジュールを統合することで、画像レベルの異常検出性能を向上させるDifferNetのアテンション拡張型アーキテクチャ、AttentDifferNetを提案する。この手法は、インダストリアルインスペクションにおける画像レベルの異常検出を改善し、in-the-wildなInsPLAD-faultデータセットでSOTA性能を達成しており、3つのデータセット全体でDifferNet比で平均1.77±0.25百分率ポイントのAUROC向上を達成した。

ABSTRACT

Within (semi-)automated visual industrial inspection, learning-based approaches for assessing visual defects, including deep neural networks, enable the processing of otherwise small defect patterns in pixel size on high-resolution imagery. The emergence of these often rarely occurring defect patterns explains the general need for labeled data corpora. To alleviate this issue and advance the current state of the art in unsupervised visual inspection, this work proposes a DifferNet-based solution enhanced with attention modules: AttentDifferNet. It improves image-level detection and classification capabilities on three visual anomaly detection datasets for industrial inspection: InsPLAD-fault, MVTec AD, and Semiconductor Wafer. In comparison to the state of the art, AttentDifferNet achieves improved results, which are, in turn, highlighted throughout our quali-quantitative study. Our quantitative evaluation shows an average improvement - compared to DifferNet - of 1.77 +/- 0.25 percentage points in overall AUROC considering all three datasets, reaching SOTA results in InsPLAD-fault, an industrial inspection in-the-wild dataset. As our variants to AttentDifferNet show great prospects in the context of currently investigated approaches, a baseline is formulated, emphasizing the importance of attention for industrial anomaly detection both in the wild and in controlled environments.

研究の動機と目的

• インダストリアルビジュアルインスペクションにおけるラベル付き欠陥データの不足という課題に対処するため、教師なし異常検出手法を進化させる。
• 照明、スケール、背景のばらつきが大きい、制御されていない、in-the-wildなインダストリアルインスペクション環境におけるSOTA異常検出モデルの性能を向上させる。
• 正規化フローに基づく異常検出モデル（例：DifferNet）において、アテンションメカニズムが特徴表現を向上させることを検証する。
• 多様なインダストリアルデータセットで一貫した改善を示すことで、アテンション強化型教師なし異常検出の新しいベースラインを確立する。

提案手法

• DifferNetのバックボーン特徴抽出器にチャネルおよび空間アテンションモジュール（特にSENetブロック）を統合し、特徴表現を精緻化する。
• 正規化フローを用いて正常サンプルの潜在分布をモデル化し、尤度推定に基づく異常スコアリングを実現する。
• Grad-CAMを用いてアテンション駆動の特徴活性化パターンを可視化・分析し、アテンション強化型とベースラインモデルを比較する。
• AUROCを主指標として用い、3つのデータセット（InsPLAD-fault（in-the-wild）、MVTec AD（制御済み）、Semiconductor Wafer（制御済み））でAttentDifferNetを訓練および評価する。
• アテンションブロックを体系的に削除することで、アブレーションスタディを実施し、個々および複合的な影響を評価する（AB1、AB2、AB3）。
• 一般化可能性を評価するため、標準DifferNet、FastFlow、RD++と比較する。

実験結果

リサーチクエスチョン

• RQ1 制御されていない、in-the-wildな環境において、アテンションモジュールがDifferNetの画像レベルの異常検出性能を向上させることができるか？
• RQ2 アテンションメカニズムの統合が、正規化フローに基づくモデルにおける特徴表現および異常局所化に与える影響は何か？
• RQ3 InsPLAD-faultデータセット（現実世界のインダストリアルインスペクション課題を反映）において、AttentDifferNetはSOTA性能を達成するか？
• RQ4 アテンションブロックの配置および構成が、AUROC向上という観点でモデル性能に与える影響は何か？
• RQ5 アテンション拡張アプローチはDifferNetに限らず、他のSOTA教師なし異常検出手法に対しても一般化可能か？

主な発見

• AttentDifferNetは、InsPLAD-fault、MVTec AD、Semiconductor Waferの3つのデータセット全体で、DifferNet比で平均1.77±0.25百分率ポイントのAUROC向上を達成した。
• InsPLAD-faultデータセットでは、AttentDifferNetがin-the-wildなインダストリアルインスペクション環境において、既存手法を上回るSOTA性能を達成した。
• アブレーションスタディの結果、3つのアテンションブロック（AB1、AB2、AB3）をすべて使用した場合、Glass Insulatorカテゴリで最高のAUROC86.57%を達成し、ベースラインDifferNet（82.81%）を顕著に上回った。
• 後段の層に配置されたアテンションブロック（例：AB3）が性能により大きな影響を与えることが示され、より深い特徴精錬がより効果的であることが示唆された。
• Grad-CAMを用いた定性的分析の結果、AttentDifferNetはin-the-wildな環境では対象物により正確に注目し、制御された環境では欠陥自体に焦点を合わせることが可能であった。
• FastFlowおよびRD++のアテンション拡張バージョンについても一貫した性能向上が観察されたため、このアプローチはDifferNetに限らず一般化可能であることが示された。