[論文レビュー] Out-of-Distribution Detection with Distance Guarantee in Deep Generative Models

Yufeng Zhang, Wanwei Liu+6 more|arXiv (Cornell University)|Feb 9, 2020

Anomaly Detection Techniques and Applications参考文献 70被引用数 7

ひとこと要約

本論文は、発散と幾何学的性質に関する理論的保証を活用することで、深層生成モデルにおける分布外（OOD）検出のための新規アプローチを提案する。グループおよびポイントワイズの異常検出手法を導入し、すべてのベンチマークでほぼ100％のAUROCを達成し、特にデータ操作が加えられた状況下でも最先端手法を大きく上回る性能を発揮する。

ABSTRACT

Recent research has revealed that deep generative models including flow-based models and Variational autoencoders may assign higher likelihood to out-of-distribution (OOD) data than in-distribution (ID) data. However, we cannot sample out OOD data from the model. This counterintuitive phenomenon has not been satisfactorily explained. In this paper, we prove theorems to investigate the divergences in flow-based model and give two explanations to the above phenomenon from divergence and geometric perspectives, respectively. Based on our analysis, we propose two group anomaly detection methods. Furthermore, we decompose the KL divergence and propose a point-wise anomaly detection method. We have conducted extensive experiments on prevalent benchmarks to evaluate our methods. For group anomaly detection (GAD), our method can achieve near 100\% AUROC on all problems and has robustness against data manipulations. On the contrary, the state-of-the-art (SOTA) GAD method performs not better than random guessing for challenging problems and can be attacked by data manipulation in almost all cases. For point-wise anomaly detection (PAD), our method is comparable to the SOTA PAD method on one category of problems and outperforms the baseline significantly on another category of problems.

研究の動機と目的

• 深層生成モデルが分布外データに対して分布内データよりも高い尤度を割り当てるという直感に反する現象を説明すること。
• 流れベースモデルにおける発散と幾何的視点を用いて、この行動の理論的基盤を提供すること。
• 証明可能な性能保証を持つ、頑健なグループおよびポイントワイズの異常検出手法を開発すること。
• 既存手法が失敗するようなデータ操作下でも、OOD検出の信頼性を向上させること。

提案手法

• 流れベースモデルにおける発散の理論的分析により、OODデータがIDデータよりも尤度が高くなる理由を説明する。
• 幾何学的および発散に基づく原則に裏付けられたグループ異常検出（GAD）手法を提案し、距離の保証を確保する。
• KL発散の分解を用いてポイントワイズの異常検出（PAD）を可能とし、個々の外れ値に対する感度を向上させる。
• 先行の最先端手法とは異なり、データ操作に対して頑健な異常検出手法の設計。
• 標準ベンチマークを用いた広範な評価により、性能と頑健性を検証する。

実験結果

リサーチクエスチョン

• RQ1 なぜ流れベースモデルやVAEが、OODデータに対してIDデータよりも高い尤度を割り当てるのか？
• RQ2 発散と幾何的分析を用いて、この直感に反する行動に理論的裏付けを与えることができるか？
• RQ3 データ操作に対して頑健で、ほぼ完璧な性能を達成する異常検出手法を設計できるか？
• RQ4 提案されたKL発散の分解は、ポイントワイズ異常検出をどのように改善するのか？

主な発見

• 提案されたグループ異常検出（GAD）手法は、テストされたすべての問題に対してほぼ100％のAUROCを達成し、最先端手法を著しく上回る。
• 最先端のGAD手法は、挑戦的な問題においてランダムな推測と同等の性能であり、データ操作に対して脆弱である。
• 提案されたGAD手法は、最先端手法が容易に攻撃されるのとは異なり、データ操作に対して頑健である。
• ポイントワイズ異常検出（PAD）において、ある問題カテゴリでは最先端手法と同等の性能を示し、別のカテゴリではベースラインを著しく上回る。