[论文解读] Visualizing LSTM decisions.

Jos van der Westhuizen, Joan Lasenby|arXiv (Cornell University)|May 23, 2017

Time Series Analysis and Forecasting参考文献 20被引用 3

一句话总结

本文提出了一种新颖的LSTM网络在时间序列分类中的可视化技术，通过学习一种输入删除掩码，以最小化真实类别得分，表明该方法识别出的显著特征与单导联心电图分析中已建立的医学知识在MIT-BIH心律失常数据集上高度一致。

ABSTRACT

This paper explores four different visualization techniques for long short-term memory (LSTM) networks applied to continuous-valued time series. On the datasets analysed, we find that the best visualization technique is to learn an input deletion mask that optimally reduces the true class score. With a specific focus on single-lead electrocardiograms from the MIT-BIH arrhythmia dataset, we show that salient input features for the LSTM classifier align well with medical theory.

研究动机与目标

• 开发并评估用于解释连续值时间序列中LSTM决策的可视化技术。
• 识别哪种可视化方法最能突出LSTM分类器中的有意义输入特征。
• 基于单导联心电图分析中已建立的医学知识，验证最佳方法的可解释性。
• 评估模型识别出的显著特征是否与临床上相关的心脏波形模式相对应。

提出的方法

• 作者训练一种输入删除掩码，通过选择性地移除输入时间步长，以最小化模型对真实类别的置信度。
• 掩码在推理过程中端到端优化，同时保持模型权重不变，以识别关键时间步长。
• 比较了四种可视化技术，包括基于梯度的方法和所提出的删除掩码方法。
• 该方法应用于MIT-BIH心律失常数据集中的单导联心电图数据，以评估可解释性。
• 通过测量掩码后真实类别得分的下降程度来评估特征重要性，下降越大表示相关性越高。

实验结果

研究问题

• RQ1 哪种可视化技术最有效地识别LSTM模型在时间序列中具有意义的输入特征？
• RQ2 模型识别出的显著特征与心电图信号的既定医学理解有多吻合？
• RQ3 学习得到的输入删除掩码是否在可解释性方面优于基于梯度或激活的可视化方法？
• RQ4 模型的注意力是否聚焦于临床上相关的ECG时间区间，如QRS波群或ST段？

主要发现

• 输入删除掩码方法产生了最具语义意义的可视化结果，在识别相关时间步长方面优于其他技术。
• 删除掩码识别出的显著特征与临床上重要的心电图成分（如QRS波群和T波）高度对应。
• 可视化结果与医学理论一致，表明具有强可解释性和临床相关性。
• 该方法在MIT-BIH数据集中不同心律和心律失常类型下表现出稳健性。