[論文レビュー] On Anomaly Interpretation via Shapley Values

Naoya Takeishi, Yoshinobu Kawahara|arXiv (Cornell University)|Apr 9, 2020

Anomaly Detection Techniques and Applications参考文献 30被引用数 6

ひとこと要約

本稿では、特徴量の欠如を異常スコアの最小化によって近似する新しい特徴関数を定義することにより、半教師あり異常検出における異常スコアの解釈にシャープレー値ベースの手法を提案する。複数のデータセットおよびモデルにおける実験から、シャープレー値ベースの帰属割り当ては異常スコアの解釈を向上させ、より効果的な異常局所化を支援することが示された。

ABSTRACT

Anomaly localization is an essential problem as anomaly detection is. Because a rigorous localization requires a causal model of a target system, practically we often resort to a relaxed problem of anomaly interpretation, for which we are to obtain meaningful attribution of anomaly scores to input features. In this paper, we investigate the use of the Shapley value for anomaly interpretation. We focus on the semi-supervised anomaly detection and newly propose a characteristic function, on which the Shapley value is computed, specifically for anomaly scores. The idea of the proposed method is approximating the absence of some features by minimizing an anomaly score with regard to them. We examine the performance of the proposed method as well as other general approaches to computing the Shapley value in interpreting anomaly scores. We show the results of experiments on multiple datasets and anomaly detection methods, which indicate the usefulness of the Shapley-based anomaly interpretation toward anomaly localization.

研究の動機と目的

• 完全な因果モデルが存在しない状況における異常スコアの解釈の課題に対処すること。
• 異常局所化を支援する意味のある異常スコアの帰属割り当て手法を開発すること。
• 異常スコアに特化したシャープレー値計算を可能にする、特徴関数を提案すること。

提案手法

• 異常スコアに特化したシャープレー値を計算するための新しい特徴関数を設計し、その特徴量の欠如を、それらの特徴量に関して異常スコアを最小化することでモデル化する。
• 入力特徴量の欠如を近似するための最小化に基づくアプローチを用い、安定的で意味のあるシャープレー値推定を可能にする。
• 特徴量の部分集合に対してシャープレー値を計算し、個々の特徴量に異常スコアの帰属を割り当てる。
• 一般化性能と性能を評価するために、複数の異常検出モデルおよびデータセットでアプローチを評価する。
• 一般用途のシャープレー値計算手法と比較することで、本手法の異常解釈における有効性を検証する。

実験結果

リサーチクエスチョン

• RQ1 シャープレー値は、因果モデルが欠如する半教師あり異常検出における異常スコアに対して、意味のある特徴量帰属割り当てを提供できるか？
• RQ2 提案された特徴関数は、一般手法と比較して、関連する特徴量の寄与度をどのように捉えているか？
• RQ3 シャープレー値ベースの解釈は、多様なデータセットおよびモデルにおいて、異常スコアの解釈可能性と局所化を向上させるか？

主な発見

• 提案されたシャープレー値ベースの手法は、一般用途のシャープレー値計算手法と比較して、優れた異常スコア解釈性能を達成した。
• シャープレー値による帰属割り当ては、異常スコアに寄与する最も影響力のある特徴量を効果的に特定した。
• 本手法は、複数のデータセットおよび異常検出モデルにわたって良好な一般化性能を示した。
• 特徴量の欠如を最小化に基づいて近似することで、安定的で解釈可能なシャープレー値が得られた。
• 実験結果から、シャープレー値ベースの解釈が、より正確な異常局所化を支援することが示された。