[论文解读] Explainable Artificial Intelligence (XAI) on TimeSeries Data: A Survey

Thomas Rojat, Raphaël Puget+4 more|arXiv (Cornell University)|Apr 2, 2021

Time Series Analysis and Forecasting参考文献 95被引用 118

一句话总结

本综述批判性地评估应用于时间序列的可解释性AI方法，将技术按模型类型和解释范围进行分类，并讨论评估、信任、鲁棒性以及交互方面。

ABSTRACT

Most of state of the art methods applied on time series consist of deep learning methods that are too complex to be interpreted. This lack of interpretability is a major drawback, as several applications in the real world are critical tasks, such as the medical field or the autonomous driving field. The explainability of models applied on time series has not gather much attention compared to the computer vision or the natural language processing fields. In this paper, we present an overview of existing explainable AI (XAI) methods applied on time series and illustrate the type of explanations they produce. We also provide a reflection on the impact of these explanation methods to provide confidence and trust in the AI systems.

研究动机与目标

• 提供对应用于时间序列的XAI方法及其方法论、范围和目标的概述。
• 讨论提高时间序列模型的置信度、稳定性和鲁棒性的方法。
• 评估用于解释时间序列模型的定性与定量方法。
• 讨论时间序列可解释性中的局限性及潜在的未来研究方向。

提出的方法

• 对CNN的后验解释进行分类（基于反向传播和基于扰动），以及对RNN的 Ante-Hoc 解释（注意力机制）。
• 描述适用于循环模型的模型无关解释（例如 SHAP）。
• 介绍面向时间序列的基于数据挖掘的XAI方法（SAX、模糊逻辑、基于规则的系统、shapelets）。
• 讨论基于示例的解释（原型方法和 shapelets）在时间序列中的应用。
• 区分局部解释与全局解释，并讨论可扩展性与可解释性之间的权衡。

实验结果

研究问题

• RQ1 现存哪些时间序列XAI方法，它们如何在不同的模型家族中运行？
• RQ2 这些方法如何提供解释（局部 vs 全局），它们的目标对象（开发者 vs 最终用户）是哪些？
• RQ3 评估时间序列模型解释的度量与方法有哪些？
• RQ4 时间序列分析中的可解释性的限制及未来方向有哪些？

主要发现

• 基于CNN的解释包括类激活映射（CAM）和基于梯度的方法，用于突出对预测有影响的时间子序列。
• 基于扰动的解释如遮挡灵敏度通过改变时间序列的部分来识别重要输入片段，并观察输出变化。
• RNN可以通过注意力机制解释，提供嵌入模型设计中的前瞻性或基于状态的可解释性。
• 模型无关的解释（例如 SHAP）可以解释循环模型，扩大了适用于CNN/RNN之外的范围。
• 时间序列特定的可解释性方法包括 SAX、模糊逻辑和 shapelets，能够提供可解释的特征和原型。
• 本综述强调信任、稳定性、鲁棒性，以及以用户为中心的交互式解释，作为时间序列XAI中尚未充分发展但至关重要的方面。