[論文レビュー] LafitE: Latent Diffusion Model with Feature Editing for Unsupervised Multi-class Anomaly Detection

Haonan Yin, Guanlong Jiao+4 more|arXiv (Cornell University)|Jul 16, 2023

Anomaly Detection Techniques and Applications被引用数 7

ひとこと要約

LafitE は、メモリベースの特徴編集戦略を用いた潜在拡散モデルを利用して、教師なしの多クラス異常検知と局所化を実行し、再構成品質を向上させ、アイデンティティショートカットを低減します。さらに、ハイパーパラメータ調整のための擬似異常検証を導入します。

ABSTRACT

In the context of flexible manufacturing systems that are required to produce different types and quantities of products with minimal reconfiguration, this paper addresses the problem of unsupervised multi-class anomaly detection: develop a unified model to detect anomalies from objects belonging to multiple classes when only normal data is accessible. We first explore the generative-based approach and investigate latent diffusion models for reconstruction to mitigate the notorious ``identity shortcut'' issue in auto-encoder based methods. We then introduce a feature editing strategy that modifies the input feature space of the diffusion model to further alleviate ``identity shortcuts'' and meanwhile improve the reconstruction quality of normal regions, leading to fewer false positive predictions. Moreover, we are the first who pose the problem of hyperparameter selection in unsupervised anomaly detection, and propose a solution of synthesizing anomaly data for a pseudo validation set to address this problem. Extensive experiments on benchmark datasets MVTec-AD and MPDD show that the proposed LafitE, \ie, Latent Diffusion Model with Feature Editing, outperforms state-of-art methods by a significant margin in terms of average AUROC. The hyperparamters selected via our pseudo validation set are well-matched to the real test set.

研究の動機と目的

• 柔軟な製造環境において複数クラスの正常データのみが利用可能な状況で、教師なしの多クラス異常検知を扱う。
• 潜在拡散モデルを活用して正常データ分布を学習し、潜在空間でデノイズすることで異常を再構成する。
• メモリバンクベースの特徴編集戦略を導入し、異常入力を正常データ流形へ引き寄せ、アイデンティティショートカットを緩和する。
• ハイパーパラメータ調整のための擬似検証セットを作成するため、合成異常データの生成を提案する。
• ベンチマークデータセット（MVTec-AD および MPDD）での頑健性と最先端性能を示す。

提案手法

• 入力画像を階層的なマルチスケール特徴抽出を通じて潜在特徴空間にマッピングする（事前学習済みネットワークを用いる）。
• 潜在空間で正常データを学習した潜在拡散モデル（DDIM）で正常特徴分布をモデル化する。
• 再構成前に問い合わせパッチを重み付き最近傍のノーマルパッチで置換する、正常パッチ特徴のメモリバンクを用いた特徴編集ステップを適用する。
• 部分的に破損した状態からデノイズして再構成特徴マップを得る、拡散ベースの再構成を実行する。
• 元の特徴と再構成特徴の再構成誤差からピクセル/パッチレベルの異常スコアを算出し、局所化のために画像レベルで集約する。
• τ と K のハイパーパラメータ選択のために正常サンプルから合成異常データを作成し、擬似検証セットを構成する。

実験結果

リサーチクエスチョン

• RQ1 潜在拡散モデルは、教師なし設定で複数クラスにわたる正常領域と異常領域をより良く識別できるか。
• RQ2 メモリバンクを用いた特徴編集を組み込むと、拡散ベースの異常検知における再構成品質とアイデンティティショートカットの低減に寄与するか。
• RQ3 合成異常から得られる擬似検証セットは、教師なし異常検知におけるハイパーパラメータ選択を効果的に導くか。
• RQ4 LafitE は、様々なデータセット（MVTec-AD および MPDD）において、検出と局所化の両方で最先端の性能を発揮するか。

主な発見

• LafitE は MVTec-AD および MPDD における多クラス異常検知と局所化の平均 AUROC で最先端を達成し、いくつかのベースラインより優れている。
• メモリバンクを用いた特徴編集は、拡張のみのベースライン（LafitE w/o F.E.）と比較して一貫して性能を向上させる。
• 潜在特徴空間の拡散モデルはアイデンティティショートカットを緩和し、正常領域の再構成を向上させ、偽陽性を減少させる。
• 擬似検証のための合成異常データはハイパーパラメータの選択を実世界のテスト性能と整合させ、効果的な教師なしチューニングを支持する。
• アブレーション研究により、LafitE は UniAD や他のベースラインよりもデータセット全体で優れた性能を示し、カテゴリ間での一貫性が向上する。