[论文解读] timeXplain -- A Framework for Explaining the Predictions of Time Series Classifiers

Felix Mujkanovic, Vanja Doskoč+3 more|arXiv (Cornell University)|Jul 15, 2020

Time Series Analysis and Forecasting参考文献 23被引用 9

一句话总结

timeXplain 是一种针对时间序列分类器的模型无关、事后解释框架，通过在时间域、频域和统计域中使用基于 SHAP 的扰动与领域特定映射实现解释。其解释保真度高于基线方法，并在样本替换和背景集类别拆分的情况下，与模型特定方法（如 CAM 和 SAX-VSM）相当，尤其在复杂模型中表现优异。

ABSTRACT

Modern time series classifiers display impressive predictive capabilities, yet their decision-making processes mostly remain black boxes to the user. At the same time, model-agnostic explainers, such as the recently proposed SHAP, promise to make the predictions of machine learning models interpretable, provided there are well-designed domain mappings. We bring both worlds together in our timeXplain framework, extending the reach of explainable artificial intelligence to time series classification and value prediction. We present novel domain mappings for the time domain, frequency domain, and time series statistics and analyze their explicative power as well as their limits. We employ a novel evaluation metric to experimentally compare timeXplain to several model-specific explanation approaches for state-of-the-art time series classifiers.

研究动机与目标

• 解决时间序列分类器缺乏可解释、模型无关的解释方法的问题。
• 通过为时间域、频域和时间序列统计特征设计领域映射，将基于 SHAP 的解释方法扩展至时间序列。
• 评估这些映射在生成忠实局部解释方面的解释力与局限性。
• 在多种最先进的时间序列分类器上，对比 timeXplain 的解释保真度与模型特定方法的表现。
• 提供一个可重用、开源的框架，用于时间序列预测的局部解释。

提出的方法

• 该框架使用 SHAP 的 Kernel SHAP 实现模型无关的局部解释，通过在样本输入周围查询分类器来生成解释。
• 引入三种领域映射：基于时间片段（使用时间域）、基于频带（使用傅里叶变换）和基于统计特征（使用汇总统计量）。
• 通过合成替换方式实施扰动：全局均值、全局噪声、局部均值、局部噪声，或从背景集中进行样本替换。
• 应用背景集类别拆分，通过保留类别特定的分布特性来提升解释保真度。
• 提出一种新型评估指标——DTW 区间保真度，用于衡量解释与模型实际预测行为的一致性。
• 通过多轮平均（n=10）和每轮 1000 次扰动来稳定结果，生成解释。

实验结果

研究问题

• RQ1 不同领域映射（时间域、频域、统计域）如何影响时间序列分类器解释的忠实度与可解释性？
• RQ2 与 CAM 和 SAX-VSM 等模型特定方法相比，timeXplain 的解释方法相对性能如何？
• RQ3 背景集类别拆分在 timeXplain 中如何影响解释保真度？
• RQ4 哪种扰动策略（如样本替换、全局噪声）能产生最忠实且可解释的解释？
• RQ5 timeXplain 中每种领域映射的隐含假设与局限性是什么？

主要发现

• 在大多数分类器上，使用样本替换和背景集类别拆分的 timeXplain 获得了最高的平均 DTW 区间保真度，优于全局均值和噪声替换。
• 对于 ResNet 模型，仅样本替换能与模型特定的 CAM 解释方法达到相当的保真度。
• 背景集类别拆分在所有分类器和所有扰动类型中均一致地提升了解释保真度。
• 全局噪声替换在小区间长度下表现较差，而样本替换在不同区间长度下均保持高保真度。
• 局部均值和局部噪声扰动保留了过多结构信息，导致扰动多样性不足，从而造成保真度偏低。
• 在复杂模型（如 ResNet 和 InceptionTime）中，使用样本替换的 timeXplain 通常超越了 CAM 和 SAX-VSM 等模型特定方法的保真度。