[論文レビュー] Visual Anomaly Detection via Dual-Attention Transformer and Discriminative Flow

Haiming Yao, Wei Luo+1 more|arXiv (Cornell University)|Mar 31, 2023

Anomaly Detection Techniques and Applications被引用数 4

ひとこと要約

本論文は、自己注意とメモリ注意の二重注意Transformerを用いた二段階再構成（自己注意と記憶注意）と、判別的正規化フローを組み合わせた、視覚的異常検出の新規フレームワークDADFを提案する。このフレームワークは、事前特徴と再構成特徴の同時尤度をモデル化することで、最先端の性能を達成し、Mvtec ADでは98.3/98.4の画像/ピクセルAUROC、Mvtec LOCO ADでは83.7の画像AUROCを達成した。これは、相乗的な対応関係と判別メカニズムにより、優れた異常検出と局在化を実現していることを示している。

ABSTRACT

In this paper, we introduce the novel state-of-the-art Dual-attention Transformer and Discriminative Flow (DADF) framework for visual anomaly detection. Based on only normal knowledge, visual anomaly detection has wide applications in industrial scenarios and has attracted significant attention. However, most existing methods fail to meet the requirements. In contrast, the proposed DTDF presents a new paradigm: it firstly leverages a pre-trained network to acquire multi-scale prior embeddings, followed by the development of a vision Transformer with dual attention mechanisms, namely self-attention and memorial-attention, to achieve two-level reconstruction for prior embeddings with the sequential and normality association. Additionally, we propose using normalizing flow to establish discriminative likelihood for the joint distribution of prior and reconstructions at each scale. The DADF achieves 98.3/98.4 of image/pixel AUROC on Mvtec AD; 83.7 of image AUROC and 67.4 of pixel sPRO on Mvtec LOCO AD benchmarks, demonstrating the effectiveness of our proposed approach.

研究の動機と目的

• 再構成のみまたは埋め込みベースの乖離に依存する従来の教師なし視覚的異常検出手法が、過剰一般化や十分な判別能の欠如により誤判定を引き起こすという限界を是正すること。
• 再構成（対応関係）と尤度モデリング（判別）の二つのメカニズムを協調的に統合することで、検出の信頼性を向上させること。
• 事前学習済みネットワークからのマルチスケール事前埋め込みを活用し、二重注意機構を適用することで、頑健な二段階再構成を実現し、特徴表現を強化すること。
• 再構成誤差の代わりに、結合特徴分布に対する正規化フローを用いて正常性をより効果的にモデル化すること。
• マルチスケール特徴統合と同時尤度推定により、標準ベンチマークで最先端の性能を達成すること。

提案手法

• まず、事前学習済みバックボーンネットワーク（例：ResNet18）を用いてマルチスケールの事前埋め込みを抽出し、階層的文脈情報を保持する。
• 自己注意と記憶注意の二重ブランチを備えたビジョンTransformerを導入し、二段階再構成を実行する：一つは事前特徴を用いた再構成、もう一つは正常プロトタイプのメモリバンクを用いた再構成。
• 再構成プロセスにより、順序的かつ正常性関連の対応関係が確立され、過剰再構成による誤検出（ファルス・ポジティブ）が低減される。
• 事前特徴と二つの再構成特徴（自己再構成とメモリ再構成）の結合分布に、判別的正規化フローを適用し、再構成誤差に依存せず、正常性の尤度をモデリングする。
• 正規化フローから得られる尤度が、より信頼性の高い異常スコアとして機能し、正常と異常サンプルの判別を強化する。
• マルチスケール特徴は個別に処理され、その結果が統合されることで、局在化の精度と検出精度が向上する。

実験結果

リサーチクエスチョン

• RQ1 自己注意と記憶注意を備えた二重注意Transformerは、視覚的異常検出における再構成安定性と対応関係の忠実性を向上させることができるか？
• RQ2 正規化フローを用いて事前特徴と再構成特徴の同時尤度をモデリングすることで、再構成誤差ベースの手法よりも信頼性の高い異常検出が達成できるか？
• RQ3 マルチスケール特徴の統合は、異常局在化および検出性能にどのように影響を与えるか？
• RQ4 対応関係（再構成）と判別（尤度モデリング）のメカニズムを協調的に使用することで、誤検出（ファルス・ポジティブ）と見逃し（ファルス・ネガティブ）を低減できるか？
• RQ5 自己再構成とメモリベース再構成の相対的寄与度は何か？また、それらの統合は検出性能をどのように向上させるか？

主な発見

• DADFフレームワークは、Mvtec ADベンチマークで98.3の画像AUROCと98.4のピクセルAUROCを達成し、新たな最先端性能を樹立した。
• Mvtec LOCO ADベンチマークでは、DADFが83.7の画像AUROCと67.4のピクセルsPROを達成し、先行手法を大きく上回った。
• 判別的正規化フローの導入により、再構成誤差ベースの手法と比較してMvtec ADで+3.2/+1.2/+2.1の性能向上が得られ、Mvtec LOCO ADではさらに顕著な向上（+7.9および+21.2）が見られた。
• 自己再構成とメモリ再構成特徴を両方組み込んだ共同判別フローモデル（ϕ_D）は、単なる事前特徴のみを用いたベースラインのフロー（ϕ_P）と比較して、Mvtec ADで画像AUROCで+1.7、ピクセルAUROCで+3.5の向上を達成した。
• マルチスケール特徴統合により検出性能が向上し、スケール3が単一スケールで最も優れた結果を示し、全マルチスケール統合が全体で最良の性能を達成した。
• 二重再構成戦略（自己再構成とメモリ再構成）により、自己再構成がテクスチャ細部を保持する一方で、メモリ再構成が安定性を向上させ、誤検出と見逃しの両方を低減した。