[论文解读] Feature Importance for Time Series Data: Improving KernelSHAP

Mattia Villani, Joshua Lockhart+1 more|arXiv (Cornell University)|Oct 5, 2022

Time Series Analysis and Forecasting被引用 6

一句话总结

本文提出 VARSHAP，一种针对时间序列的 KernelSHAP 扩展方法，利用向量自回归（VAR）模型计算 Shapley 值，实现对时间序列的精确特征重要性估计。该方法引入了时间一致性 Shapley 值，并提出一种事件检测方法，通过跨时间步聚合 SHAP 值，识别导致预测跃迁的因果特征，显著提升了时间上下文下的可解释性。

ABSTRACT

Feature importance techniques have enjoyed widespread attention in the explainable AI literature as a means of determining how trained machine learning models make their predictions. We consider Shapley value based approaches to feature importance, applied in the context of time series data. We present closed form solutions for the SHAP values of a number of time series models, including VARMAX. We also show how KernelSHAP can be applied to time series tasks, and how the feature importances that come from this technique can be combined to perform "event detection". Finally, we explore the use of Time Consistent Shapley values for feature importance.

研究动机与目标

• 将 KernelSHAP 适配至时间序列数据，其中特征独立性假设与长回溯窗口对标准实现构成挑战。
• 推导常见时间序列模型（包括 AR、MA、ARMA、VARMA 和 VARMAX）的闭式 Shapley 值。
• 提出时间一致性 Shapley 值，通过利用时间结构降低计算复杂度。
• 引入一种事件检测技术，通过跨时间步聚合 SHAP 值，识别导致预测变化的显著特征贡献。
• 通过引入时间依赖性和自相关性，解决模型无关 XAI 方法在时间序列中的局限性。

提出的方法

• 通过用向量自回归（VAR）模型替代线性模型，将 KernelSHAP 扩展至时间序列，提出 VARSHAP。
• 基于合作博弈论原理，推导 AR、MA、ARMA、VARMA 和 VARMAX 模型的闭式 Shapley 值。
• 提出时间一致性 Shapley 值，通过在特征归因中强制时间一致性，减少样本空间，提升计算效率。
• 提出一种事件检测框架，通过跨时间步聚合 SHAP 值，识别导致预测突变的特征。
• 采用基于扰动的采样方法，结合 VAR 模型估计边际贡献，在时间序列约束下确保收敛至真实 Shapley 值。
• 在合成数据与真实世界时间序列数据上验证方法，证明其在可解释性与因果事件检测方面的显著提升。

实验结果

研究问题

• RQ1 通过用 VAR 模型替代线性模型，能否可靠地将 KernelSHAP 扩展至时间序列数据？
• RQ2 如何为 VARMAX 和 ARMA 等标准时间序列模型推导闭式 Shapley 值？
• RQ3 在特征归因中引入时间一致性，能否在保持可解释性的同时降低计算复杂度？
• RQ4 聚合的 SHAP 值能否检测到由特定特征驱动的有意义事件（如预测跃迁）？
• RQ5 在存在自相关性的情况下，时间一致性 Shapley 值与 VARSHAP 在捕捉特征重要性方面有何差异？

主要发现

• VARSHAP 通过使用 VAR 模型成功将 KernelSHAP 扩展至时间序列，在时间约束下保持了对 Shapley 值的收敛性保证。
• 为 AR、MA、ARMA、VARMA 和 VARMAX 模型推导出闭式 Shapley 值，实现了无需近似的精确归因。
• 时间一致性 Shapley 值通过强制时间一致性减少计算样本空间，显著提升长序列的可扩展性。
• 事件检测方法成功识别出导致预测跃迁的特征贡献，子计量数据表明，特定电器设备驱动了目标值的显著波动。
• VARSHAP 与时间一致性 Shapley 值呈现出显著不同的归因模式，表明其在不同时间假设下对模型行为捕捉具有各自优势。
• 该方法揭示特征重要性在时间步上高度动态变化，某些特征在预测突变期间占据主导地位，凸显了时间感知解释方法的必要性。