[論文レビュー] Attention Guided Anomaly Detection and Localization in Images.

Shashanka Venkataramanan, Kuan–Chuan Peng+2 more|arXiv (Cornell University)|Nov 19, 2019

Anomaly Detection Techniques and Applications参考文献 28被引用数 13

ひとこと要約

本稿では、異常検出および局所化のための自己教師ありおよび弱教師あり学習を目的とした、ガイド付きアテンションを備えた畳み込み型対抗的変分オートエンコーダー（CAVGA）を提案する。空間的注意を備えた潜在変数と、新たなアテンション損失を用いることで、正常領域に注目させ、異常訓練画像を一切使用せず、または異常データが2%にとどまる状況でも、MVTec、mSTC、LAGデータセットで最先端（SOTA）の手法を上回る性能を発揮する。

ABSTRACT

Anomaly localization is an important problem in computer vision which involves localizing anomalous regions within images with applications in industrial inspection, surveillance, and medical imaging. This task is challenging due to the small sample size and pixel coverage of the anomaly in real-world scenarios. Most prior works need to use anomalous training images to compute a class-specific threshold to localize anomalies. Without the need of anomalous training images, we propose Convolutional Adversarial Variational autoencoder with Guided Attention (CAVGA), which localizes the anomaly with a convolutional latent variable to preserve the spatial information. In the unsupervised setting, we propose an attention expansion loss where we encourage CAVGA to focus on all normal regions in the image. Furthermore, in the weakly-supervised setting we propose a complementary guided attention loss, where we encourage the attention map to focus on all normal regions while minimizing the attention map corresponding to anomalous regions in the image. CAVGA outperforms the state-of-the-art (SOTA) anomaly localization methods on MVTec Anomaly Detection (MVTAD), modified ShanghaiTech Campus (mSTC) and Large-scale Attention based Glaucoma (LAG) datasets in the unsupervised setting and when using only 2% anomalous images in the weakly-supervised setting. CAVGA also outperforms SOTA anomaly detection methods on the MNIST, CIFAR-10, Fashion-MNIST, MVTAD, mSTC and LAG datasets.

研究の動機と目的

• 限られた異常サンプルと小さな異常カバレッジを伴う画像における異常局所化の課題に対処すること。
• 異常訓練画像の必要性を排除することで、自己教師ありおよび弱教師あり学習を活用した異常局所化を実現すること。
• 畳み込み型潜在変数を用いて、潜在空間における空間的情報を保持し、正確な異常局所化を実現すること。
• 正常領域に注目するようモデルを誘導するアテンションベースの損失関数を開発すること。
• 複数のベンチマークデータセットにおいて、異常検出および局所化の両面で最先端の性能を達成すること。

提案手法

• CAVGAは畳み込み型潜在変数を用いることで、潜在表現における空間的構造を維持し、異常の正確な局所化を可能にする。
• 自己教師あり設定では、アテンション拡張損失が、画像内のすべての正常領域に注目するようモデルを促進する。
• 弱教師あり設定では、補完的なガイド付きアテンション損失が、異常領域への注目を最小限に抑えつつ、正常領域への注目を最大化する。
• 対抗的訓練を用いることで、潜在空間における再構成品質と特徴の現実性を向上させる。
• アテンションマップを用いて、再構成誤差とアテンション分布に基づいて異常ヒートマップを生成する。
• 再構成損失、対抗的損失、および提案されたアテンションベースの正則化を用いて、エンドツーエンドでフレームワークを訓練する。

実験結果

リサーチクエスチョン

• RQ1 自己教師ありアプローチを用いることで、異常訓練画像を一切使用せずに異常局所化を達成できるか？
• RQ2 ガイド付きアテンションは、正常領域に注目させることで、異常局所化性能を向上させるのにどの程度有効か？
• RQ3 統合型モデルが、自己教師ありおよび弱教師あり両方の異常検出および局所化で最先端の結果を達成できるか？
• RQ4 畳み込み型潜在変数は、異常局所化のための空間的情報を保持する上で、全結合型潜在空間と比較してどのように優れているか？
• RQ5 提案されたアテンション損失は、標準的な再構成ベースの手法に比べて、ベンチマークデータセットでどの程度の性能向上をもたらすか？

主な発見

• CAVGAは、MVTec Anomaly Detection (MVTAD)、修正版ShanghaiTech Campus (mSTC)、Large-scale Attention based Glaucoma (LAG) データセットにおいて、自己教師あり異常局所化で最先端の性能を達成した。
• 訓練データに2%の異常画像しか含まない状況でも、CAVGAは同様のベンチマークで既存の弱教師あり手法を著しく上回った。
• MNIST、CIFAR-10、Fashion-MNIST、MVTAD、mSTC、LAG データセットにおいて、CAVGAは異常検出および局所化の両タスクでSOTAの異常検出手法を上回った。
• 自己教師あり設定におけるアテンション拡張損失は、正常領域に注目するようモデルを効果的に誘導し、局所化精度を向上させた。
• 弱教師あり設定における補完的なガイド付きアテンション損失は、異常領域への注目を効果的に抑制し、検出性能を向上させた。
• 畳み込み型潜在変数の使用により、標準的なVAEと比較して、より優れた空間的再構成と、より正確な異常局所化が可能になった。