[論文レビュー] DSR -- A dual subspace re-projection network for surface anomaly detection

Vitjan Zavrtanik, Matej Kristan+1 more|arXiv (Cornell University)|Aug 2, 2022

Anomaly Detection Techniques and Applications被引用数 6

ひとこと要約

DSRは、画像空間ではなく量子化された特徴空間で異常を生成する二重部分空間再プロジェクションネットワークを提案する。これにより、外部の異常合成データセットに依存せずに、分布に近い異常の検出が可能となり、最先端の性能を達成した。KSDD2データセットにおいて、異常検出ではAPが10%向上、局在化では35%向上を達成した。

ABSTRACT

The state-of-the-art in discriminative unsupervised surface anomaly detection relies on external datasets for synthesizing anomaly-augmented training images. Such approaches are prone to failure on near-in-distribution anomalies since these are difficult to be synthesized realistically due to their similarity to anomaly-free regions. We propose an architecture based on quantized feature space representation with dual decoders, DSR, that avoids the image-level anomaly synthesis requirement. Without making any assumptions about the visual properties of anomalies, DSR generates the anomalies at the feature level by sampling the learned quantized feature space, which allows a controlled generation of near-in-distribution anomalies. DSR achieves state-of-the-art results on the KSDD2 and MVTec anomaly detection datasets. The experiments on the challenging real-world KSDD2 dataset show that DSR significantly outperforms other unsupervised surface anomaly detection methods, improving the previous top-performing methods by 10% AP in anomaly detection and 35% AP in anomaly localization.

研究の動機と目的

• 既存の教師なし表面異常検出手法が外部データセットからの画像レベルの異常合成に依存するという限界を解消すること。これは、分布に近い異常に対してはしばしば失敗する。
• 従来の画像レベルの拡張技術では現実的に再現が難しい微細な分布内異常の検出を改善すること。
• 合成異常を直接離散的潜在特徴空間で生成する手法を開発することにより、より現実的で制御可能な異常シミュレーションを可能にすること。
• トレーニング時にアノテート済みの異常データを必要とせず、実世界のKSDD2および標準的なMVTec異常検出ベンチマークで最先端の性能を達成すること。
• 限られたアノテート済み異常サンプルを弱教師あり設定で効果的に活用し、少数の例で性能を向上させること。

提案手法

• 本手法は、共有エンコーダーと離散的潜在表現を持つ二重ブランチデコーダー構造を採用し、入力画像とその特徴を同時に再構築する。
• 正規の画像から離散的で量子化された潜在空間を学習するため、ベクトル量子化オートエンコーダー（VQ-VAE）フレームワークを用いる。これにより、構造的な特徴表現が可能になる。
• 正規領域の特徴に類似するコードブックベクトルからサンプリングすることで異常を生成する。生成の現実性を制御するため、類似度の閾値を学習して使用する。
• 画像再構築損失（$L_{img}$）、特徴再構築損失（$L_{feat}$）、および構造的一致性を保つための知覚損失を組み合わせた損失関数でネットワークを訓練する。
• 解像度の高い異常マップの精緻化を図るため、アップサンプリングモジュールを導入し、局在化精度を向上させる。
• 異常生成プロセスは、正規パッチの潜在コードと候補のコードブックベクトルとの類似度に基づいてガイドされ、生成された異常が視覚的に妥当で正規の外観に近いことを保証する。

実験結果

リサーチクエスチョン

• RQ1 画像空間ではなく特徴空間で合成異常を生成することで、異常検出性能が顕著に向上するか？
• RQ2 特徴レベルでの異常生成は、画像レベル手法では再現が難しい分布に近い異常の検出を向上させるか？
• RQ3 離散的潜在空間表現は、正規の外観を堅牢に再構築しつつ、効果的な異常検出を可能にするか？
• RQ4 コードブック内のサンプリング戦略の選択が、異常検出および局在化性能に与える影響は何か？
• RQ5 提案手法は、アノテート済み異常サンプルが僅かにしか存在しない弱教師あり設定にも一般化可能か？

主な発見

• KSDD2データセットにおいて、DSRは従来の最先端手法と比較して、異常検出の平均適合率（AP）が10%の絶対的向上を達成し、局在化のAPも35%向上した。
• MVTecデータセットでは、DSRはAUROCが98.2%、APが70.2%を達成し、最先端の性能を実現した。
• アブレーションスタディの結果、コードブックからの均一サンプリング（DSR random）ではAPが2.6%低下し、サンプリング戦略の重要性が裏付けられた。
• 画像再構築損失（$L_{img}$）のみ、または特徴再構築損失（$L_{feat}$）のみで訓練すると、AUROCが2.7 p.p.低下し、APが5.0 p.p.低下した。これにより、両方の損失成分の必要性が示された。
• アップサンプリングモジュールを削除すると、局在化APが5.0 p.p.低下した。これは、高解像度の異常マップ予測において、このモジュールが極めて重要な役割を果たしていることを示している。
• DSRは58 FPSで動作し、リアルタイムの産業用途に適している。