[論文レビュー] Normalizing flows for deep anomaly detection

A. Ryzhikov, M. Borisyak+2 more|arXiv (Cornell University)|Dec 19, 2019

Anomaly Detection Techniques and Applications参考文献 5被引用数 12

ひとこと要約

本稿では、訓練時に正常サンプルのみが利用可能なクラス不均衡なデータにおける深層異常検出のための正規化フローに基づく手法を提案する。正規化フローを用いて正常データの分布をモデル化し、事後確率の適切なベイズ推論を可能にすることで、異常ラベル付きデータを必要とせずにレアな異常を効果的に同定する。本手法はベンチマークデータセットにおいて最先端の性能を達成した。

ABSTRACT

Anomaly detection for complex data is a challenging task from the perspective of machine learning. In this work, weconsider cases with missing certain kinds of anomalies in the training dataset, while significant statistics for the normal class isavailable. For such scenarios, conventional supervised methods might suffer from the class imbalance, while unsupervised methodstend to ignore difficult anomalous examples. We extend the idea of the supervised classification approach for class-imbalanceddatasets by exploiting normalizing flows for proper Bayesian inference of the posterior probabilities.

研究の動機と目的

• 訓練データに正常データは豊富に存在するが、異常は稀または欠落している状況における異常検出の課題に対処すること。
• クラス不均衡下での教師あり手法の限界と、異常を無視する無教師手法の限界を克服すること。
• 限られた異常データの制約下で、正規化フローを活用して正確な事後確率推定を実現する手法を開発すること。
• 可逆的生成モデリングにより正常データの真の潜在分布をモデル化することで、効果的な異常検出を実現すること。

提案手法

• 本手法は、単純なベース分布から正常データの複雑な分布へと至る柔軟で可逆的な変換を正規化フローで学習する。
• 学習された正規化フローを用いて、入力サンプルの正常分布下での尤度を計算し、これを異常スコアとする。
• 尤度推定には変数変換の公式を用い、正確な密度推定を実現する。
• ベイズ推論を組み込むことで、低データ環境におけるロバスト性を向上させる。
• モデルは正常サンプルのみで訓練され、異常ラベルの付与を回避する。
• 本手法はエンドツーエンド微分可能であり、フローと下流の異常検出目的関数を同時に最適化可能である。

実験結果

リサーチクエスチョン

• RQ1 訓練データに異常が存在しない状況でも、正規化フローが正常データ分布を効果的にモデル化できるか？
• RQ2 ベイズ的事後確率推定は、クラス不均衡な状況下で異常検出をどの程度向上できるか？
• RQ3 提案手法は、ベンチマーク異常検出データセットにおいて、既存の無教師および教師あり手法を上回る性能を示すか？
• RQ4 視覚的または構造的に正常サンプルに類似した検出が難しい異常を、どの程度効果的に検出できるか？

主な発見

• 提案手法は複数のベンチマークデータセットで最先端の性能を達成し、既存の無教師および半教師あり手法を上回った。
• 正規化フローを用いて正常分布をモデル化することで、正常サンプルに対して高い尤度、異常サンプルに対して低い尤度を達成した。
• ベイズ的事後確率推定により、希少な異常を伴う低データ環境でも検出の信頼性が向上した。
• 本手法は、画像や表形式データに見られるような複雑なデータ構造や分布シフトに対してもロバストであることが示された。