[論文レビュー] Estimating the Contamination Factor's Distribution in Unsupervised Anomaly Detection

Lorenzo Perini, Paul Buerkner+1 more|arXiv (Cornell University)|Oct 19, 2022

Anomaly Detection Techniques and Applications被引用数 9

ひとこと要約

本論文は、教師なし異常検出における不純物要因 $\gamma$ の事後分布を推定する最初のベイジアン手法である $\gamma$GMM を提案する。複数の異常検出器を活用してスコアベースの表現を作成し、ディリクレ過程混合ガウスモデル（DPGMM）を適合させることで、最も極端な成分が異常である確率を推定し、不確実性を考慮したしきい値設定を可能にする。この手法は、21のベースラインを上回る検出精度を達成する。

ABSTRACT

Anomaly detection methods identify examples that do not follow the expected behaviour, typically in an unsupervised fashion, by assigning real-valued anomaly scores to the examples based on various heuristics. These scores need to be transformed into actual predictions by thresholding, so that the proportion of examples marked as anomalies equals the expected proportion of anomalies, called contamination factor. Unfortunately, there are no good methods for estimating the contamination factor itself. We address this need from a Bayesian perspective, introducing a method for estimating the posterior distribution of the contamination factor of a given unlabeled dataset. We leverage on outputs of several anomaly detectors as a representation that already captures the basic notion of anomalousness and estimate the contamination using a specific mixture formulation. Empirically on 22 datasets, we show that the estimated distribution is well-calibrated and that setting the threshold using the posterior mean improves the anomaly detectors' performance over several alternative methods. All code is publicly available for full reproducibility.

研究の動機と目的

• 教師なし異常検出における不純物要因 $\gamma$ の推定手法の欠如という、実用的導入において重要なが軽視されがちな課題に対処すること。
• ラベルのない状況下でも不確実性を定量化できるように、不純物要因子の推定をベイジアン推論問題として定式化すること。
• しきい値設定に使用可能な、$\gamma$ の well-calibrated な事後分布を生成する手法を開発すること。
• $\gamma$ の事後平均を用いて、不確実性を考慮したロバストなしきい値としての推定を実現し、異常検出性能を向上させること。
• 不確実性を考慮したしきい値設定が、従来のヒューリスティック法や点推定法に比べて、より高い検出精度を達成することを示すこと。

提案手法

• 複数の教師なし異常検出器を用いて、異常度の高レベルな表現を形成するスコア空間に生データを変換する。
• スコア空間にディリクレ過程事前分布を備えたベイジアン混合ガウスモデル（DPGMM）を適合させ、異常スコアの背後にある分布をモデル化する。
• スコア空間における極端さの順に混合成分を順序付け、平均スコアが高く分散が小さい成分を優先する。
• パラメータ $p_0$ および $p_{\text{high}}$ を用いた二変数変換に基づき、$k$ 個の最も極端な成分が同時に異常である確率を推定する。
• 成分の割り当てについて周辺化した上で、不純物要因 $\gamma$ の事後分布を、最も極端な成分の重みの合計として構築する。
• 異常スコアを離散的予測に変換するためのしきい値として、$\gamma$ の事後平均を用いることで、検出性能を向上させる。

実験結果

リサーチクエスチョン

• RQ1 ラベルのない教師なし設定において、不純物要因 $\gamma$ の事後分布を推定することは可能か？
• RQ2 $\gamma$ の推定における不確実性は、しきい値設定と検出精度の向上にどの程度反映されるか？
• RQ3 ハイパーパrameter $p_0$ および $p_{\text{high}}$ の変動に対して、この手法はどの程度ロバストか？
• RQ4 多様な実世界のデータセットにおいて、$\gamma$ の事後分布は適切にキャリブレーションされているか？
• RQ5 $\gamma$ の事後平均をしきい値として用いることで、標準的な推定器よりも検出精度が向上するか？

主な発見

• $\gamma$GMM が推定する $\gamma$ の事後平均は、22のベンチマークデータセットにおいて21のベースライン手法を上回る検出精度を達成する。
• この手法はほぼ完璧なキャリブレーションを達成しており、幅広い範囲のデータセットにおいて、実測頻度と期待確率が密接に一致する。
• $\gamma$ の事後分布はしばしば広く多峰的であり、不純物推定における本質的な不確実性を反映している。
• この手法はハイパーパrameterの選択に対してロバストである：$p_0$ はほとんど影響を及ぼさず、$p_{\text{high}}$ はキャリブレーションにわずかに影響を与えるが、性能に大きな影響はない。
• ハイパーパrameterのバリエーションにわたる $\gamma$GMM の事後平均推定の平均絶対誤差（MAE）は、0.252（最良）から0.32（最悪）の範囲に収まり、一貫した性能を示す。
• 事後平均をしきい値として用いることで、固定しきい値や MTT や IQR といった統計的推定器を用いる場合よりも、顕著に高い検出精度が得られる。