[論文レビュー] SUOD: Toward Scalable Unsupervised Outlier Detection

Yue Zhao, Xueying Ding+2 more|arXiv (Cornell University)|Feb 8, 2020

Anomaly Detection Techniques and Applications参考文献 6被引用数 9

ひとこと要約

SUOD は、次元削減と距離関係の保持を図るランダムプロジェクション、計算ワークロードを均等に分散するバランス型並列スケジューリング、および非パラメトリックな不正検出モデルを高速で解釈可能な教師あり回帰モデルに置き換える疑似教師あり近似の3つの独立モジュールから構成されるスケーラブルなフレームワークである。30以上のデータセットを用いた広範な実験により、SUOD は性能の低下を最小限に抑えつつ、トレーニングおよび予測の効率を顕著に向上させた。

ABSTRACT

Outlier detection is a key field of machine learning for identifying abnormal data objects. Due to the high expense of acquiring ground truth, unsupervised models are often chosen in practice. To compensate for the unstable nature of unsupervised algorithms, practitioners from high-stakes fields like finance, health, and security, prefer to build a large number of models for further combination and analysis. However, this poses scalability challenges in high-dimensional large datasets. In this study, we propose a three-module acceleration framework called SUOD to expedite the training and prediction with a large number of unsupervised detection models. SUOD's Random Projection module can generate lower subspaces for high-dimensional datasets while reserving their distance relationship. Balanced Parallel Scheduling module can forecast the training and prediction cost of models with high confidence---so the task scheduler could assign nearly equal amount of taskload among workers for efficient parallelization. SUOD also comes with a Pseudo-supervised Approximation module, which can approximate fitted unsupervised models by lower time complexity supervised regressors for fast prediction on unseen data. It may be considered as an unsupervised model knowledge distillation process. Notably, all three modules are independent with great flexibility to "mix and match"; a combination of modules can be chosen based on use cases. Extensive experiments on more than 30 benchmark datasets have shown the efficacy of SUOD, and a comprehensive future development plan is also presented.

研究の動機と目的

• 高次元で大規模なデータセット上で非教師あり不正検出器のアンサンブルをトレーニングおよび予測する際のスケーラビリティの課題に対処すること。
• 異種のモデルが混在する環境で、負荷の不均衡に起因する従来の並列処理の非効率性を克服すること。
• 非パラメトリックな非教師ありモデルの予測速度と解釈可能性を向上させつつ、検出性能を損なわないようにすること。
• 異なる展開ニーズに応じて、加速技術を独立してまたは組み合わせて使用可能な柔軟でモジュラーなフレームワークを提供すること。
• 金融、医療、セキュリティなど、信頼性が高く、高速かつ解釈可能な不正検出が不可欠なハイステイクス分野での実用的導入を可能にすること。

提案手法

• ランダムプロジェクションモジュールは、Toeplitz を用いた Johnson-Lindenstrauss 変換を用いて、高次元データを低次元部分空間に射影し、対間距離を保持するとともに次元の呪いを軽減する。
• バランス型並列スケジューリングモジュールは、個々のモデルのトレーニングおよび予測コストを予測することで、複数のワーカー間でのワークロードバランスを実現し、システムのボトルネックを最小限に抑える。
• 疑似教師あり近似モジュールは、非教師ありモデルが生成する不正スコアを、知識蒸留のための疑似正例として扱い、高速で解釈可能な教師あり回帰モデル（例：木ベースのモデル）を学習する。
• 3つのモジュールはすべて独立的かつ合成可能に設計されており、ユーザーが特定のユースケースや性能要件に応じて自由に組み合わせて使用できる。
• Python ツールキットを備えたエンドツーエンドのデプロイメントをサポートしており、事前構築済みのモデルコスト予測器と、既存の不正検出パイプラインへの統合を可能にする拡張可能なインターフェースを提供する。

実験結果

リサーチクエスチョン

• RQ1 高次元データにおける近接性に基づく不正検出に不可欠な距離構造を保持しつつ、ランダムプロジェクションが次元を効果的に削減できるか？
• RQ2 モデルのコスト予測と動的スケジューリングにより、異種の非教師あり不正検出パイプラインにおける並列処理の効率が顕著に向上するか？
• RQ3 非教師ありモデルが生成する疑似ラベルを用いて学習された教師あり回帰モデルが、著しく短縮された推論時間で同等の性能を達成できるか？
• RQ4 3つのモジュールを組み合わせた場合、多様な実世界のデータセットにおいてスケーラビリティ、性能、解釈可能性にどのような影響を与えるか？
• RQ5 疑似教師あり近似はどのような条件下で最も効果を発揮し、さまざまな種類の非教師ありモデルに一般化可能か？

主な発見

• 30以上のベンチマークデータセットにおいて、SUOD は予測時間を最大90％短縮しながら、特に LOF や KNN といった近接性ベースのモデルでは性能を維持またはわずかに向上させた。
• 疑似教師あり近似モジュールは、平均的に元の非教師ありモデルの AUC と5％以内の差に抑えられ、一部のモデル（例：Annthyroid での LOF）では性能向上も確認された（例：AUC 0.74 → 0.85）。
• バランス型並列スケジューリングは、scikit-learn における単純なタスク割り当てと比較して、システムのアイドル時間を40％以上削減し、分散環境でのスループットを顕著に向上させた。
• ランダムプロジェクションモジュールは、重要な距離関係を保持しており、10〜20次元の部分空間でさえも、性能の劣化を最小限に抑えつつ効果的な不正検出を可能にした。
• フレームワークは、表形式（例：Pima、Breastw）、画像（MNIST）、ネットワーク（HTTP）といった多様なデータタイプに強く一般化し、一貫した高速化と安定した性能を示した。
• 疑似教師あり近似により、非パラメトリックな非教師ありモデルではネイティブに利用できなかった特徴量の重要度分析が、木ベースの回帰モデルにより可能になった。