[論文レビュー] MSFlow: Multi-Scale Flow-based Framework for Unsupervised Anomaly Detection

Yixuan Zhou, Xing Xu+3 more|arXiv (Cornell University)|Aug 29, 2023

Anomaly Detection Techniques and ApplicationsComputer Science被引用数 3

ひとこと要約

MSFlowは、非対称な並列フローと軽量な統合フローを活用してマルチスケール表現を捉える、教師なし異常検出および局所化のためのマルチスケールフロー基盤フレームワークを提案する。MVTec ADで最先端の性能を達成し、検出では99.7% AUCROC、局所化では98.8%を記録した。

ABSTRACT

Unsupervised anomaly detection (UAD) attracts a lot of research interest and drives widespread applications, where only anomaly-free samples are available for training. Some UAD applications intend to further locate the anomalous regions without any anomaly information. Although the absence of anomalous samples and annotations deteriorates the UAD performance, an inconspicuous yet powerful statistics model, the normalizing flows, is appropriate for anomaly detection and localization in an unsupervised fashion. The flow-based probabilistic models, only trained on anomaly-free data, can efficiently distinguish unpredictable anomalies by assigning them much lower likelihoods than normal data. Nevertheless, the size variation of unpredictable anomalies introduces another inconvenience to the flow-based methods for high-precision anomaly detection and localization. To generalize the anomaly size variation, we propose a novel Multi-Scale Flow-based framework dubbed MSFlow composed of asymmetrical parallel flows followed by a fusion flow to exchange multi-scale perceptions. Moreover, different multi-scale aggregation strategies are adopted for image-wise anomaly detection and pixel-wise anomaly localization according to the discrepancy between them. The proposed MSFlow is evaluated on three anomaly detection datasets, significantly outperforming existing methods. Notably, on the challenging MVTec AD benchmark, our MSFlow achieves a new state-of-the-art with a detection AUORC score of up to 99.7%, localization AUCROC score of 98.8%, and PRO score of 97.1%. The reproducible code is available at https://github.com/cool-xuan/msflow.

研究の動機と目的

• 特にピxls単位の局所化を対象として、予測不能な異常サイズの変動に起因する課題に対処する。
• 固定スケールの特徴表現に起因する既存のフローベースの手法が、小さな異常や大きな異常に対して困難を抱えるという制限を克服する。
• スケール固有の特徴学習と統合特徴学習を組み合わせることで、画像単位の検出とピxls単位の局所化の両方を強化するマルチスケールアーキテクチャを設計する。
• 2つのタスクの本質的な違いを活かすために、検出と局所化のための別個の集約戦略を設計する。
• 特に挑戦的なMVTec ADデータセットを含むベンチマークデータセットで最先端の性能を達成する。

提案手法

• 空間的詳細を保持するため、低レベルのネットワーク段階からの活性化出力を用いてマルチスケール特徴ピラミッドを構築する。
• 高レベル特徴に多くのフローブロックを適用する非対称な並列フローを実装し、グローバルなパターンのより深いモデリングを可能にする。
• 異なるレベル間でマルチスケールの認識を交換する軽量な統合フローを導入し、計算量を大幅に増加させずに表現学習を向上させる。
• ピxls単位の異常局所化のために加法的集約を用い、スケール固有の詳細を保持する。一方、画像単位の検出のために乗法的集約を用い、ノイズを抑制し一貫性のある異常を強調する。
• 画像単位の異常スコアを、上位K個のピxls単位の異常スコアの平均値として計算し、耐性を高めるために適合率に基づいてKを動的に決定する。
• 異常なしデータのみで訓練されたノーマライジングフローを用いて、エンド・トゥ・エンドでモデルを最適化し、低確率の異常を特定するための尤度推定を活用する。

実験結果

リサーチクエスチョン

• RQ1 フローベースのモデルは、小さな欠険から大規模な異常まで極端なサイズ変動を扱うためにどのように適合されるべきか？
• RQ2 異なるレベルの特徴表現を組み合わせる最適なマルチスケールアーキテクチャは何か？ 両方のタスクの性能向上に寄与する。
• RQ3 画像単位の検出とピxls単位の局所化の目的で、マルチスケール尤度出力をどのように別個に集約すべきか？ 性能を最大化するための戦略。
• RQ4 ハイパーパramータの設定（例：上位K集約におけるK）は、多様な異常タイプにわたって、どのようにして耐性があり最適な検出性能を達成するか？
• RQ5 異常アノテーションを一切使用せずに、フローベースのフレームワークが教師なし異常検出および局所化で最先端の性能を達成できるか？

主な発見

• MSFlowは、MVTec ADベンチマークで新たな最先端性能を達成し、検出のAUCROCスコアが99.7%に達した。
• ピxls単位の局所化において、MSFlowは98.8%の局所化AUCROCスコアを達成し、異常領域を高精度に特定していることを示した。
• PROスコアは97.1%に達し、空間的接続性を考慮した領域レベルの異常検出において優れた性能を示した。
• 乗法的集約は、ノイズを抑制しスケール間の一貫性のある異常を強調するため、画像単位の検出において加法的集約を上回った。
• 加法的集約は、スケール固有の異常サインを保持するため、局所化性能が優れていた。
• 上位K集約におけるKの値にかかわらず、モデルの検出性能は頑健であり、1%から10%の範囲で99.2%以上のAUCROCを維持し、最適な性能は1%～3%の適合率で得られた。