[論文レビュー] Semi-supervised Anomaly Detection using AutoEncoders

Manpreet Singh Minhas, John Zelek|arXiv (Cornell University)|Jan 6, 2020

Anomaly Detection Techniques and Applications参考文献 10被引用数 26

ひとこと要約

本稿では、正常（欠陥なし）の画像にのみトレーニングされたU-Netに類似した畳み込みオートエンコーダーを用いた半教師あり異常検出手法を提案する。入力画像の再構成と、入力と再構成画像の画素単位の残差を分析することで、しきい値処理により異常を検出する。2つのデータセット全体で平均F1スコア0.885を達成し、合成クラック欠陥に対しては優れた性能を示し、実世界のレール表面データにおける中程度のノイズに対しても良好な性能を示した。

ABSTRACT

Anomaly detection refers to the task of finding unusual instances that stand out from the normal data. In several applications, these outliers or anomalous instances are of greater interest compared to the normal ones. Specifically in the case of industrial optical inspection and infrastructure asset management, finding these defects (anomalous regions) is of extreme importance. Traditionally and even today this process has been carried out manually. Humans rely on the saliency of the defects in comparison to the normal texture to detect the defects. However, manual inspection is slow, tedious, subjective and susceptible to human biases. Therefore, the automation of defect detection is desirable. But for defect detection lack of availability of a large number of anomalous instances and labelled data is a problem. In this paper, we present a convolutional auto-encoder architecture for anomaly detection that is trained only on the defect-free (normal) instances. For the test images, residual masks that are obtained by subtracting the original image from the auto-encoder output are thresholded to obtain the defect segmentation masks. The approach was tested on two data-sets and achieved an impressive average F1 score of 0.885. The network learnt to detect the actual shape of the defects even though no defected images were used during the training.

研究の動機と目的

• 産業用点検においてラベル付きの異常インスタンスが乏しい状況を踏まえ、ラベル付きの異常データを一切必要としない異常検出手法の開発。
• 産業用光学点検およびインfraストラクチャー資産管理における欠陥検出の自動化を図り、遅く誤りの多い手動点検への依存を減らす。
• トレーニング段階で異常サンプルに事前に触れることなく、多様な欠陥形状や幾何学的形状を検出可能にする。
• 実データおよび合成データセット上で、しきい値選択および照明変動に対する本手法のロバストネスと感度を評価する。

提案手法

• エンコーダーとデコーダーのブロックを有するU-Netに類似した畳み込みオートエンコーダーのアーキテクチャを採用し、フィルターサイズを段階的に小さくし、再構成に転置畳み込みを用いる。
• すべての畳み込み層およびデコンボリューション層の後にバッチ正規化とReLU活性化関数を適用し、トレーニングの安定化と特徴学習の向上を図る。
• モデルは、元の入力画像とオートエンコーダーの再構成出力との間の平均二乗誤差（MSE）損失を用いてトレーニングされ、50エポックにわたりAdam最適化手法が使用された。
• 異常は、入力画像と再構成画像の画素単位の差分である残差マップを計算することで検出される：R = X − AE(X)。
• 残差マップのしきい値処理により最終的な欠陥セグメンテーションマスクが得られ、検出感度はしきい値の選択に依存する。
• 本手法は異常データを一切含まない正常サンプルのみでトレーニングされるため、異常データが乏しいもしくは利用できない半教師あり設定に適している。

実験結果

リサーチクエスチョン

• RQ1 正常画像のみでトレーニングされたディープオートエンコーダーは、異常データを一切含まない状況でも、多様な欠陥形状や幾何学的形状を検出できるか？
• RQ2 オートエンコーダー再構成誤差に基づく残差マップを用いた異常検出は、実世界および合成された産業用欠陥データセットにおいてどの程度有効か？
• RQ3 残差マップセグメンテーション段階におけるしきい値選択に、本手法の性能がどの程度依存するか？
• RQ4 照明変動や画像ノイズは、実世界データにおける誤検出（誤検出）にどの程度影響を及ぼすか？
• RQ5 明示的にトレーニングされていない欠陥の形状やサイズの多様性に対しても、本手法は一般化可能か？

主な発見

• 本手法は、合成データセットDAGMC8においてF1スコア0.96を達成し、ノイズが最小限のクラック欠陥を強く検出できることを示した。
• 実世界データセットRSDDsIではF1スコアが0.81であったが、ノイズの増加としきい値処理への感受性を示しており、効果的な検出が可能であるものの課題も示した。
• オートエンコーダーは正常なテクスチャを適切に再構成し、ラベルなしの異常データでも意味のある残差マップを生成し、実際の欠陥形状を明確に強調した。
• 本手法はしきい値選択に敏感であり、わずかな変更でもセグメンテーション出力に大きな変化をもたらした。これにより、堅牢なしきい値選択戦略の必要性が示された。
• RSDDsIデータセットにおける照明変動は、しばしば欠陥として誤検出されることがあり、照明変動へのロバストネスに限界があることが明らかになった。
• 本手法は、トレーニング時に明示的に学習されていなくても、多様な幾何的形状や広がりを持つ欠陥を検出できる能力を示しており、産業応用におけるメトリックベースの欠陥解析への応用可能性を示唆した。