[论文解读] Don't Get Me Wrong: How to Apply Deep Visual Interpretations to Time Series

Christoffer Loeffler, Wei-Cheng Lai+4 more|arXiv (Cornell University)|Mar 14, 2022

Data Visualization and Analytics被引用 5

一句话总结

本文提出了一套六项正交评估指标的框架——合理性、忠实性、敏感性、鲁棒性、稳定性和定位性，以客观评估时间序列分类与分割任务中的事后可视化解释方法。该研究在多样化的时序数据集和神经网络架构上评估了九种解释技术，发现没有一种方法在所有情况下均持续优于其他方法，并为基于模型和任务特性的可视化选择提供了可操作的建议。

ABSTRACT

The correct interpretation of convolutional models is a hard problem for time series data. While saliency methods promise visual validation of predictions for image and language processing, they fall short when applied to time series. These tend to be less intuitive and represent highly diverse data, such as the tool-use time series dataset. Furthermore, saliency methods often generate varied, conflicting explanations, complicating the reliability of these methods. Consequently, a rigorous objective assessment is necessary to establish trust in them. This paper investigates saliency methods on time series data to formulate recommendations for interpreting convolutional models and implements them on the tool-use time series problem. To achieve this, we first employ nine gradient-, propagation-, or perturbation-based post-hoc saliency methods across six varied and complex real-world datasets. Next, we evaluate these methods using five independent metrics to generate recommendations. Subsequently, we implement a case study focusing on tool-use time series using convolutional classification models. Our results validate our recommendations that indicate that none of the saliency methods consistently outperforms others on all metrics, while some are sometimes ahead. Our insights and step-by-step guidelines allow experts to choose suitable saliency methods for a given model and dataset.

研究动机与目标

• 为解决时间序列中可视化解释方法缺乏客观评估标准的问题，因数据多样性及低直观可解释性，人工判断不可靠。
• 开发一种标准化的客观评估框架，使领域专家能够验证和比较不同模型与任务下的显著性图。
• 探究模型架构、训练正则化与数据集特征如何影响可视化解释的质量。
• 基于多指标下的实证性能，为选择合适的可视化技术提供可操作的建议。

提出的方法

• 作者定义了六项正交评估指标：合理性（模型参数依赖性）、忠实性（输入扰动下与预测准确率的相关性）、敏感性（对正确与错误类别差异化的显著性）、鲁棒性（微小输入变化导致的显著性变化小）、稳定性（同类样本间的一致性显著性）和定位性（显著性集中于预测片段）。
• 该框架应用于九种事后解释方法——基于梯度、基于激活和基于扰动的方法——涵盖四种深度学习架构：FCN、TCN、U-Net 和 bi-LSTM。
• 评估在 12 个 UCR 时序数据集和一个真实工业数据集（工具追踪）上进行，指标按样本计算并在数据集和模型间聚合。
• 为控制数据集偏差，按 {指标, 数据集} 对分数进行归一化，以计算相对性能，实现方法间的公平比较。
• 作者通过配对图相关性分析验证了指标的正交性，显示任意两项指标之间均无显著相关性，证实其独立性。
• 实验包括对正则化技术（dropout、权重衰减）的消融研究，以评估其对解释质量的影响。

实验结果

研究问题

• RQ1 在时间序列分类与分割任务中，哪些可视化解释方法在多个客观指标上表现最佳？
• RQ2 模型架构与训练正则化如何影响不同解释技术生成的显著性图质量？
• RQ3 现有评估指标（合理性、忠实性、鲁棒性等）在多大程度上提供独立且非冗余的解释质量信号？
• RQ4 一个正交指标的统一框架能否可靠地指导时间序列深度学习模型的可视化方法选择？
• RQ5 不同时间序列数据集在多大程度上影响解释方法的相对性能？

主要发现

• 没有一种可视化方法在所有六项指标上始终优于其他方法，表明方法性能高度依赖于具体评估标准和任务。
• 定位性指标显示，在工具追踪分割任务中，bi-LSTM 上所有方法均未产生令人满意的显著性图，凸显了当前技术的关键缺陷。
• 忠实性和类内稳定性对数据集选择特别敏感，部分数据集对解释质量构成更大挑战。
• 模型架构对解释质量的影响相对较小，表明解释方法在不同网络设计间具有合理的泛化能力。
• 六项指标具有正交性——任意两项之间均无显著相关性——证明每项指标均捕捉了显著性质量的一个独特且独立方面。
• 按 {指标, 数据集} 对分数进行归一化后，发现方法的相对性能排名稳定且具有意义，支持跨数据集的公平比较。