[論文レビュー] Anomaly Detection with Score functions based on Nearest Neighbor Graphs

Manqi Zhao, Venkatesh Saligrama|ArXiv.org|Oct 28, 2009

Anomaly Detection Techniques and Applications参考文献 17被引用数 80

ひとこと要約

本稿では、名目データ上のK近傍グラフ（K-NNG）から導出されたスコア関数を用いた非パラメトリックな異常検出アルゴリズムを提案する。各テストポイントを含む最小体積（MV）レベル集合の体積を推定することで、チューニングパラメータや密度仮定を必要とせず、次元に対して線形で、データサイズに対して二次的にスケーリングされ、誤検出率の制御が保証される漸近的最適な検出を達成する。

ABSTRACT

We propose a novel non-parametric adaptive anomaly detection algorithm for high dimensional data based on score functions derived from nearest neighbor graphs on $n$-point nominal data. Anomalies are declared whenever the score of a test sample falls below $α$, which is supposed to be the desired false alarm level. The resulting anomaly detector is shown to be asymptotically optimal in that it is uniformly most powerful for the specified false alarm level, $α$, for the case when the anomaly density is a mixture of the nominal and a known density. Our algorithm is computationally efficient, being linear in dimension and quadratic in data size. It does not require choosing complicated tuning parameters or function approximation classes and it can adapt to local structure such as local change in dimensionality. We demonstrate the algorithm on both artificial and real data sets in high dimensional feature spaces.

研究の動機と目的

• 高次元空間における局所的データ構造に適応する非パラメトリックな異常検出手法を構築すること。密度仮定を必要としない。
• 複雑なチューニングパラメータや関数近似クラスに依存する既存手法の計算効率の良い代替手段を提供すること。
• スコア関数を最小体積（MV）集合と多次元p値に結びつけることで、保証された最適な検出性能を達成すること。
• 高次元レベル集合の明示的計算を必要とせず、所望の水準αで誤検出率を正確に制御すること。
• 実データおよび合成データにおける多様体構造や変化する局所次元性に、強靭で適応的であることを示すこと。

提案手法

• 名目学習データ上にK近傍グラフ（K-NNG）を構築し、局所的近傍構造を捉える。
• 各テストポイントのスコア関数を、その点を含む最小体積（MV）レベル集合の体積の経験的推定値として定義する。
• K-NNグラフを用いてMV集合の体積を間接的に計算し、高次元レベル集合の直接計算を回避する。
• スコア関数を用いて異常を検出する：スコアがしきい値α未満のテストポイントは異常とマークする。
• MV集合体積の効率的推定を実現するため、1つずつ除外する（leave-one-out）戦略を採用し、計算スケーラビリティを確保する。
• 高次元データに対しては、内面的な多様体構造をよりよく捉えるために測地的距離を用いる。

実験結果

リサーチクエスチョン

• RQ1 指定された誤検出率水準αに対して、パラメトリック仮定を必要とせず、一様に最強力な検出を達成できる非パラメトリックな異常検出手法を設計できるか？
• RQ2 高次元空間において、レベル集合の明示的計算を伴わずに、最小体積（MV）レベル集合の体積を効率的に推定できるか？
• RQ3 K-NNGに基づくスコア関数は、真の多次元p値をどの程度近似でき、最適な統計的パワーを保証できるか？
• RQ4 本手法は、実世界のデータにおける次元性の局所的変化や内面的多様体構造に、どの程度適応的か？
• RQ5 1クラスSVMやK-NNといった既存手法に比べ、誤検出制御および計算効率の面で優れているか？

主な発見

• 提案されたK-LPE（K近傍ベースの局所p値推定）アルゴリズムは、小さな学習集合（n=160）でも、クラリベイント最適ROC曲線に非常に近いROC曲線を達成し、強力な経験的性能を示している。
• USPSデータセットにおいて、α=0.5の条件下で、偽陽性率6.1%、誤検出率5.7%を達成し、同等条件でのOC-SVM（FP=7%、FA=9%）を上回っている。
• アルゴリズムは次元に対して線形、データサイズに対して二次的にスケーリングされ、高次元特徴空間に適している。
• スコア関数は漸近的に一貫性を示し、標本サイズが増加するにつれて真の多次元p値に収束する。
• カーネル帯域幅や関数近似クラスといったチューニングパラメータを必要とせず、導入が簡素化される。
• K ≈ n^{2/5} が異なる次元においても強固なヒューリスティックとして機能するため、ε-LPEに比べてK-LPEのほうが実用的である。