[論文レビュー] Diverse Counterfactual Explanations for Anomaly Detection in Time Series

Déborah Sulem, Michele Donini+7 more|arXiv (Cornell University)|Mar 21, 2022

Anomaly Detection Techniques and Applications被引用数 5

ひとこと要約

本稿では、異常な時系列シーケンスの複数の摂動版を生成することで、モデルに正常と分類されるようにする、モデルに依存しない手法を提案している。この手法は、妥当性、妥当性、多様性を保証するため、確率的予測と勾配フリー最適化を用い、解釈性を著しく向上させる。特に高次元設定におけるスパースバージョンでは顕著な効果を示す。

ABSTRACT

Data-driven methods that detect anomalies in times series data are ubiquitous in practice, but they are in general unable to provide helpful explanations for the predictions they make. In this work we propose a model-agnostic algorithm that generates counterfactual ensemble explanations for time series anomaly detection models. Our method generates a set of diverse counterfactual examples, i.e, multiple perturbed versions of the original time series that are not considered anomalous by the detection model. Since the magnitude of the perturbations is limited, these counterfactuals represent an ensemble of inputs similar to the original time series that the model would deem normal. Our algorithm is applicable to any differentiable anomaly detection model. We investigate the value of our method on univariate and multivariate real-world datasets and two deep-learning-based anomaly detection models, under several explainability criteria previously proposed in other data domains such as Validity, Plausibility, Closeness and Diversity. We show that our algorithm can produce ensembles of counterfactual examples that satisfy these criteria and thanks to a novel type of visualisation, can convey a richer interpretation of a model's internal mechanism than existing methods. Moreover, we design a sparse variant of our method to improve the interpretability of counterfactual explanations for high-dimensional time series anomalies. In this setting, our explanation is localised on only a few dimensions and can therefore be communicated more efficiently to the model's user.

研究の動機と目的

• 複雑なディープラーニングモデルによる時系列の異常検出において、行動可能な解釈可能な説明が不足している問題を解決すること。
• 入力に最小限の変更を加えることで、モデルがシーケンスを正常と分類するようになるような対向説明を生成すること。
• 説明が多様で妥当的かつ元の入力に近く、かつ任意の微分可能な異常検出モデルに適用可能であることを保証すること。
• 高次元マルチバリアテイプ時系列における解釈性を向上させるために、変数の一部にのみ摂動を制限するスパースバージョンを導入すること。
• 実世界のデータセットを用いて、妥当性、妥当性、近接性、多様性という複数の説明基準を評価すること。

提案手法

• 異常な時系列入力を摂動することで、検出モデルが正常と分類するような対向アンサンブルを生成する、モデルに依存しないフレームワークを用いる。
• 摂動プロセスをガイドし、妥当性を向上させるために、生成的事前分布として確率的予測（例：DeepVAR）を採用する。
• 動的摂動と距離制約に基づく勾配フリー最適化戦略を適用し、対向説明が元のシーケンスに近いことを保証する。
• 摂動を一部の次元に制限するスパースバージョンを導入し、高次元マルチバリアテイプ時系列における解釈性を向上させる。
• 予測偏差ペナルティと入力距離を組み合わせた損失関数を最適化し、トレードオフハイパーパrameter λ を用いる。
• 妥当性は動的タイムワープィング（DTW）と時間的滑らかさの指標を用い、多様性は対向説明間の距離で測定する。

実験結果

リサーチクエスチョン

• RQ1 対向説明は、将来的な異常検出を防ぐための行動可能な変更をユーザーに効果的に導くことができるか？
• RQ2 時系列異常検出モデルに対して、多様で妥当的かつ最小限の摂動を受けた対向説明をどのように生成できるか？
• RQ3 摂動にスパース性を導入することで、高次元マルチバリアテイプ時系列における解釈性はどの程度向上するか？
• RQ4 勾配ベースとサンプリングベースの最適化戦略（例：勾配ベース vs. サンプリングベース）は、妥当性、妥当性、多様性という観点でどのように比較されるか？
• RQ5 本手法は、異なるディープラーニングベースの異常検出モデル（例：USAD, NCAD）および実世界のデータセットに一般化可能か？

主な発見

• 提案手法は、マルチバリアテイプデータセットにおいてUSADモデルで0%の失敗率を達成し、より複雑なNCADモデルではスパースバージョンが成功確率を向上させた。
• FS（特徴量の重要度に基づく）手法が最も現実的な対向説明を生成し、USADモデルで不適切さスコア1（1.62）と不適切さスコア2（1.49）を達成した。
• 勾配ベースのICE手法は、USADで距離スコア31.81を達成し、元の入力に非常に近いことを示しており、同時に低失敗率を維持した。
• スパースDPEバージョンは、USADモデルで正確度0.68、再現率0.07を達成し、高次元データにおける主要な異常チャネルを正しく同定した。
• ナイーブベースラインと比較して、本手法は全指標で顕著に優れており、USADでは73.4%、NCADでは79.8%の失敗率を示したナイーブ手法とは対照的だった。
• 多様性はICE手法が最も高く（NCADで4639.11）、強力なアンサンブルの多様性を示した。一方、FSは妥当性と多様性のバランスが最も優れていた。