[論文レビュー] Feature Importance for Time Series Data: Improving KernelSHAP

Mattia Villani, Joshua Lockhart+1 more|arXiv (Cornell University)|Oct 5, 2022

Time Series Analysis and Forecasting被引用数 6

ひとこと要約

本稿では、時系列データに適応したKernelSHAPの拡張版であるVARSHAPを提案する。VARSHAPは、ベクトル自己回帰（VAR）モデルを用いてShapley値を計算することで、時系列における特徴量の重要度を正確に推定可能となる。また、時間的一致性のあるShapley値と、予測値の急増の背後にある因果的特徴を特定するためのSHAP値の集約手法を導入し、時間的文脈における解釈可能性を著しく向上させる。

ABSTRACT

Feature importance techniques have enjoyed widespread attention in the explainable AI literature as a means of determining how trained machine learning models make their predictions. We consider Shapley value based approaches to feature importance, applied in the context of time series data. We present closed form solutions for the SHAP values of a number of time series models, including VARMAX. We also show how KernelSHAP can be applied to time series tasks, and how the feature importances that come from this technique can be combined to perform "event detection". Finally, we explore the use of Time Consistent Shapley values for feature importance.

研究の動機と目的

• 特徴量の独立性と長いラックアップ窓が標準的実装を困難にする時系列データに対して、KernelSHAPを適応させる。
• AR、MA、ARMA、VARMA、VARMAXなどの一般的な時系列モデルに対して、閉形式のShapley値を導出する。
• 時間的構造を活用することで、計算複雑度を低減する時間的一致性のあるShapley値を提案する。
• 予測値の変化に寄与する顕著な特徴量を特定するため、時間ステップに跨るSHAP値を集約するイベント検出手法を導入する。
• 時系列データにおけるモデルに依存しないXAI手法の限界を、時間的依存性と自己相関を組み込むことで克服する。

提案手法

• 線形モデルの代わりにベクトル自己回帰（VAR）モデルを用いることで、時系列データにおけるShapley値の近似を可能とするKernelSHAPの拡張として、VARSHAPを提案する。
• 協力ゲーム理論の原則を用いて、AR、MA、ARMA、VARMA、VARMAXモデルの閉形式のShapley値を導出する。
• 時間的一致性のある特徴量への帰属を強制することで、サンプル空間を縮小する時間的一致性のあるShapley値を導入する。
• 時間ステップに跨るSHAP値を集約するフレームワークを提案し、予測値の急増に寄与する特徴量を特定するイベント検出フレームワークを構築する。
• VARモデルを用いた摂動ベースのサンプリングにより、時系列制約下でも真のShapley値に収束するように、限界寄与度を推定する。
• 合成データおよび実世界の時系列データを用いて手法を検証し、解釈可能性の向上と因果的イベントの検出が有効であることを示す。

実験結果

リサーチクエスチョン

• RQ1 線形モデルをVARモデルに置き換えることで、KernelSHAPを時系列データに信頼性高く拡張できるか？
• RQ2 VARMAX や ARMA などの標準的時系列モデルに対して、閉形式のShapley値をどのように導出できるか？
• RQ3 特徴量への帰属における時間的一致性を強制することで、計算複雑度を低減しつつ解釈可能性を維持できるか？
• RQ4 集約されたSHAP値は、特定の特徴量によって引き起こされる意味のあるイベント（例：予測値の急増）を検出できるか？
• RQ5 自己相関下で、Time Consistent Shapley Values と VARSHAP は、特徴量の重要度をどのように異なるパターンで捉えているか？

主な発見

• VARSHAPは、時系列データにおけるKernelSHAPの拡張に成功しており、時間的制約下でもShapley値への収束保証を維持する。
• AR、MA、ARMA、VARMA、VARMAXモデルに対して、近似を用いずに正確な帰属が可能な閉形式のShapley値が導出された。
• 時間的一致性のあるShapley値は、サンプル空間を縮小することで、長時間系列に対するスケーラビリティを向上させる。
• イベント検出手法は、予測値の急増に寄与する特徴量の寄与度を効果的に特定した。特に、メーター単位のデータでは、個々の家電機器がターゲット値の明確な突発的上昇を引き起こしていることが示された。
• VARSHAPとTime Consistent Shapley Valuesは、異なる帰属パターンを示しており、それぞれが異なる時間的仮定下でのモデル挙動の捉え方の強みを示している。
• 特徴量の重要度は時間ステップごとに顕著に変動することが明らかになった。特に、予測値の変化に伴って特定の特徴量が優勢になることが確認され、時間的認識を持つ解釈手法の必要性が強調された。