[論文レビュー] Interpretable Anomaly Detection with DIFFI: Depth-based Isolation Forest Feature Importance

Mattia Carletti, Matteo Terzi+1 more|arXiv (Cornell University)|Jul 21, 2020

Anomaly Detection Techniques and Applications参考文献 53被引用数 13

ひとこと要約

本稿では、異常検出における解釈可能性を向上させるために、計算効率の高いグローバルおよびローカル特徴重要度を計算する方法であるDIFFIを提案する。DIFFIは、SHAPなどの最先端手法と同等の性能を示すが、はるかに低い計算コストで実現可能であり、解釈可能な異常検出と非教師付き特徴選択を可能にする。

ABSTRACT

Anomaly Detection is an unsupervised learning task aimed at detecting anomalous behaviours with respect to historical data. In particular, multivariate Anomaly Detection has an important role in many applications thanks to the capability of summarizing the status of a complex system or observed phenomenon with a single indicator (typically called `Anomaly Score') and thanks to the unsupervised nature of the task that does not require human tagging. The Isolation Forest is one of the most commonly adopted algorithms in the field of Anomaly Detection, due to its proven effectiveness and low computational complexity. A major problem affecting Isolation Forest is represented by the lack of interpretability, an effect of the inherent randomness governing the splits performed by the Isolation Trees, the building blocks of the Isolation Forest. In this paper we propose effective, yet computationally inexpensive, methods to define feature importance scores at both global and local level for the Isolation Forest. Moreover, we define a procedure to perform unsupervised feature selection for Anomaly Detection problems based on our interpretability method; such procedure also serves the purpose of tackling the challenging task of feature importance evaluation in unsupervised anomaly detection. We assess the performance on several synthetic and real-world datasets, including comparisons against state-of-the-art interpretability techniques, and make the code publicly available to enhance reproducibility and foster research in the field.

研究の動機と目的

• 広く使用されているが本質的に曇りがちな異常検出アルゴリズムとして知られるIsolation Forestにおける解釈可能性の欠如に取り組むこと。
• 異常検出意思決定に最も寄与する特徴を説明するグローバルおよびローカルの特徴重要度スコアを提供すること。
• 解釈可能性に基づく基準を用いて、モデルの複雑さを低減し、性能を向上させる非教師付き特徴選択を可能にすること。
• 計算効率が高く、リアルタイムまたはリソース制約のある環境に適した方法を開発すること。
• 産業的・実世界の異常検出導入におけるユーザーの信頼を高め、根本原因分析を容易にすること。

提案手法

• DIFFIは、Isolation Treeにおけるスプリットの平均深さに基づいて特徴重要度を計算し、早期にスプリットを生じさせる特徴が異常検出により関連しているという事実を活用する。
• グローバル特徴重要度は、全ツリーにわたる平均深さの減少を特徴の使用頻度で重み付けして導出される。
• ローカル特徴重要度は、異常スコアへの到達経路に沿って特徴の深さ寄与を集約することで、各サンプルごとに計算される。
• 追加のトレーニングや再トレーニングを必要とせず、元のIsolation Forestモデルの構造とハイパーパrameterを活用する。
• 非教師付き特徴選択は、グローバルDIFFIスコアによる特徴のランク付けを行い、上位k個の特徴を選択してIFモデルを再トレーニングすることで実施される。
• 本手法は軽量に設計されており、最小限のハイパーパrameterチューニングで実現可能であり、堅牢性を保つためにデフォルトのIFハイパーパrameterを引き継ぐ。

実験結果

リサーチクエスチョン

• RQ1 Isolation Treeからの深さ統計を用いて、異常検出における意味のあるグローバルおよびローカル特徴重要度スコアを導出できるか？
• RQ2 既存の解釈可能性手法（例：SHAP）と比較して、提案手法DIFFIは非教師付き異常検出における性能と効率性でどのように差をつけるか？
• RQ3 DIFFIに基づく特徴選択は、実世界の異常検出タスクにおけるIsolation Forestの正確性と効率性を向上させることができるか？
• RQ4 他の非教師付き特徴選択手法と比較して、DIFFIはどれほどハイパーパrameterチューニングの必要性を低減するか？
• RQ5 計算コストが非常に低いことから、DIFFIはリアルタイムまたはストリーミング異常検出シナリオに効果的に適用可能か？

主な発見

• DIFFIは、SHAPなどの最先端の解釈可能性手法と同等の性能を示し、特にグローバル特徴重要度推定において顕著な低コストを実現する。
• 心電図（cardio）、イオノスフィア（ionosphere）、マスク（musk）といった複数の実世界データセットにおいて、DIFFIはLaplacian ScoreやSPECを一貫して上回り、選択特徴数kの広い範囲で優位性を示す。
• 多数の評価済みデータセットにおいて、最高の中央値F1スコアを達成する最適な特徴サブセットを正しく同定しており、検出性能と強い整合性を示している。
• 最小限または完全にハイパーパrameterチューニングを必要とせず、デフォルトのIsolation Forest設定を引き継ぐため、実世界応用における使いやすさと再現可能性が向上する。
• DIFFIは、解釈可能な異常検出を可能にし、行動可能なインサイトを提供することで、根本原因分析を支援し、モデル出力に対するユーザーの信頼を高める。
• DIFFIの計算コストが非常に低いことから、効率性が重要なリアルタイムまたはストリーミング異常検出システムへの導入に適している。