[論文レビュー] Anomaly Detection in the Presence of Missing Values

Thomas G. Dietterich, Tadesse Zemicheal|arXiv (Cornell University)|Sep 5, 2018

Anomaly Detection Techniques and Applications参考文献 9被引用数 9

ひとこと要約

本稿では、欠損値が存在する状況における異常検知のための5つの戦略を提案および評価する：平均補完、MAP補完、特徴量バッグイング（低次元化）、密度推定器向けのマージナル化、および木ベースモデル向けの割合分布。実験結果から、MAP補完と割合分布が他の手法を上回り、EGMMではマージナル化が優れた結果を示し、各アルゴリズムに特化した推奨事項が得られた：Isolation Forestには割合分布、LODAにはMAP補完、EGMMにはマージナル化を推奨する。

ABSTRACT

Standard methods for anomaly detection assume that all features are observed at both learning time and prediction time. Such methods cannot process data containing missing values. This paper studies five strategies for handling missing values in test queries: (a) mean imputation, (b) MAP imputation, (c) reduction (reduced-dimension anomaly detectors via feature bagging), (d) marginalization (for density estimators only), and (e) proportional distribution (for tree-based methods only). Our analysis suggests that MAP imputation and proportional distribution should give better results than mean imputation, reduction, and marginalization. These hypotheses are largely confirmed by experimental studies on synthetic data and on anomaly detection benchmark data sets using the Isolation Forest (IF), LODA, and EGMM anomaly detection algorithms. However, marginalization worked surprisingly well for EGMM, and there are exceptions where reduction works well on some benchmark problems. We recommend proportional distribution for IF, MAP imputation for LODA, and marginalization for EGMM.

研究の動機と目的

• テスト時における欠損値を扱える異常検知手法のギャップを埋めるため、標準的手法がすべての特徴量が観測可能であると仮定していることに対応する。
• 平均補完、MAP補完、特徴量バッグイングによる低次元化、マージナル化（密度推定器向け）、割合分布（木ベースモデル向け）の5つの異なる戦略を、欠損値処理のために評価および比較する。
• 異なるアルゴリズムと欠損データ率の下で、AUC（受信者リポーチ特性曲線の下側面積）を指標として用いて、どの手法が最も高い異常検知性能を示すかを特定する。
• Isolation Forest、LODA、EGMMにおける欠損値処理の実装に向けた実用的推奨事項を提供する。

提案手法

• テストクエリにおける欠損値処理のための5つの手法を提案：平均補完、MAP補完、特徴量バッグイング（低次元化）、密度ベースモデル向けのマージナル化、木ベースモデル向けの割合分布。
• 合成データおよびベンチマークデータセットを用いて、3つの代表的な異常検知アルゴリズム（Isolation Forest（IF）、LODA、EGMM）に各手法を適用する。
• AUC（受信者リポーチ特性曲線の下側面積）を主な評価指標として、手法および欠損データ率（ρ = 0.1% ～ 10%）の下での性能を比較する。
• 各アルゴリズムについて13～15のデータセットを含むマザーセットを用い、複数回の実行結果を平均化することで、結果の頑健性を評価する。
• マージナル化の場合は、次元全体の空間における尾部確率を計算することで、次元数に依存しない正当な比較を保証し、直接的な密度比較を回避する。
• 理論的分析を用いて、MAP補完と割合分布が平均補完および低次元化よりも優れていることを正当化する。

実験結果

リサーチクエスチョン

• RQ1 テスト時における特徴量の欠損が生じる状況で、Isolation Forestにおけるどの欠損値処理戦略が最高のAUCを達成するか？
• RQ2 LODAにおけるMAP補完と平均補完および低次元化の性能を、欠損データ率が変化する条件下で比較するとどうなるか？
• RQ3 次元数の不一致に関する理論的懸念があるにもかかわらず、EGMMにおいてなぜマージナル化が驚くほど良好に機能するのか？
• RQ4 Isolation Forestのような木ベースの異常検知器において、割合分布はMAP補完のより効率的な代替手段となり得るか？
• RQ5 特徴量バッグイング（低次元化）はどのような条件下で失敗し、どのような状況では依然として有効であるか？

主な発見

• 割合分布はIsolation Forestにおいて平均補完および低次元化を上回り、特に欠損データ率が高くなる（ρ ≥ 0.5）と顕著な性能優位性を示し、最も効率的な手法として推奨される。
• MAP補完は、LODAにおける全欠損データ率で最良の結果を達成し、Pevnỳが提唱した元の低次元化手法を著しく上回った。
• EGMMではマージナル化が驚くほど良好に機能し、ρ ≥ 0.4の平均で最高のAUCを記録した。また、12個のマザーセットのうち6つでトップパフォーマンスを記録した。
• 平均補完は、MAP補完および割合分布と比較して一貫して性能が低く、理論的期待と一致した。
• 低次元化は、IFおよびLODAにおいて非常に悪く、欠損していない特徴量の数が√dを下回ると、AUCが0.5まで低下した。
• 理論的制限があるにもかかわらず、マージナル化は、すべてのテストクエリが類似した数の欠損特徴量を持つため、相対的な確率比較を保持でき、効果的な異常スコアを生成した。