[論文レビュー] A Comparison of Supervised and Unsupervised Deep Learning Methods for Anomaly Detection in Images

Vincent Wilmet, Sauraj Verma+3 more|arXiv (Cornell University)|Jul 20, 2021

Anomaly Detection Techniques and Applications参考文献 7被引用数 4

ひとこと要約

本稿では、MVTec ADデータセットを用いて、教師ありおよび教師なしの深層学習手法による画像異常検出を比較している。CNN、KD-CAE、NI-CAE、DCGANsを評価した結果、教師なしのオートエンコーダー、特にKD-CAEが教師ありのCNNを上回った。NI-CAEはトランジスタデータセットで優れた性能を示し、異常データが少ないもしくはラベルなしの場合、教師なし手法がより効果的であることが確認された。

ABSTRACT

Anomaly detection in images plays a significant role for many applications across all industries, such as disease diagnosis in healthcare or quality assurance in manufacturing. Manual inspection of images, when extended over a monotonously repetitive period of time is very time consuming and can lead to anomalies being overlooked.Artificial neural networks have proven themselves very successful on simple, repetitive tasks, in some cases even outperforming humans. Therefore, in this paper we investigate different methods of deep learning, including supervised and unsupervised learning, for anomaly detection applied to a quality assurance use case. We utilize the MVTec anomaly dataset and develop three different models, a CNN for supervised anomaly detection, KD-CAE for autoencoder anomaly detection, NI-CAE for noise induced anomaly detection and a DCGAN for generating reconstructed images. By experiments, we found that KD-CAE performs better on the anomaly datasets compared to CNN and NI-CAE, with NI-CAE performing the best on the Transistor dataset. We also implemented a DCGAN for the creation of new training data but due to computational limitation and lack of extrapolating the mechanics of AnoGAN, we restricted ourselves just to the generation of GAN based images. We conclude that unsupervised methods are more powerful for anomaly detection in images, especially in a setting where only a small amount of anomalous data is available, or the data is unlabeled.

研究の動機と目的

• 産業用画像における異常検出における教師ありおよび教師なしの深層学習モデルの有効性を評価すること。
• 品質保証などの実世界の応用において、ラベルなしまたは限られた異常データがあるという課題に対処すること。
• ラベル付き異常データが不足する状況で、オートエンコーダーやGANが教師あり学習の代替手段として有効であるかどうかを調査すること。
• 低データ環境における異常検出性能の向上を図るため、GANを用いたデータ拡張の可能性を検討すること。

提案手法

• 完全にラベル付きの正常および異常画像を用いて、教師ありベースラインとして畳み込みニューラルネットワーク（CNN）を訓練した。
• 正常画像のみから特徴表現を学習するために、知識蒸留に基づく畳み込みオートエンコーダー（KD-CAE）を実装した。
• ノイズ注入を施したノイズ誘発型畳み込みオートエンコーダー（NI-CAE）を適用し、耐性および再構成精度を向上させた。
• 深層畳み込みGAN（DCGAN）を訓練し、合成された正常画像をデータ拡張に用いた。
• 入力画像と再構成画像の乖離を測定するために、再構成誤差および構造的類似性（SSIM）を用いて異常を検出した。
• F1スコア、適合率、再現率、およびMVTec ADの複数カテゴリにおける再構成品質の可視化による検証を通じて、モデルを評価した。

実験結果

リサーチクエスチョン

• RQ1 教師ありの深層学習モデル（例：CNN）と教師なしオートエンコーダーは、産業用画像データセットにおける異常検出でどのように比較されるか？
• RQ2 ノイズ注入は、微細な画像異常を検出するための畳み込みオートエンコーダーの性能にどのような影響を与えるか？
• RQ3 GANによって生成された画像は、異常検出性能の向上を図るための訓練データ拡張として効果的か？
• RQ4 低データ量または異常データがゼロの状況において、教師ありか教師なしのどちらの手法がより優れた検出性能を示すか？

主な発見

• ラベル付き異常データが不足していたため、CNNベースの教師ありモデルは性能が低く、特に小さな欠陻に対してF1スコアが低かった。
• KD-CAEは、MVTec ADの多数のカテゴリでCNNおよびNI-CAEを上回り、優れた一般化性能と再構成忠実度を示した。
• NI-CAEはトランジスタデータセットで最高の性能を示し、ガウスノイズを注入してもF1スコアがわずかに2.56%低下するにとどまり、高い耐性を示した。
• 再構成誤差の分布およびSSIM差分マップから、KD-CAEが複雑なテクスチャでさえも異常領域を効果的に強調していることが明らかになった。
• DCGANは実際の歯ブラシの画像を効果的に生成できており、データ拡張の可能性を示唆したが、計算制約のため性能向上は測定されなかった。
• 正常データへの過学習は、異常検出において有益であった。異常を再構成する能力が低下することで、検出感度が向上した。