[论文解读] What does an LSTM look for in classifying heartbeats

Jos van der Westhuizen, Joan Lasenby|arXiv (Cornell University)|May 23, 2017

Time Series Analysis and Forecasting参考文献 9被引用 2

一句话总结

本研究提出一种基于输入删除掩码的显著性方法，用于解释单导联心电图数据（来自MIT-BIH心律失常数据集）上LSTM分类器的决策。结果表明，最有效的可视化技术能够识别对分类至关重要的输入特征，且显著区域与公认的医学心脏形态学高度一致，通过临床相关性验证了模型的可解释性。

ABSTRACT

This paper explores four different visualization techniques for long short-term memory (LSTM) networks applied to continuous-valued time series. On the datasets analysed, we find that the best visualization technique is to learn an input deletion mask that optimally reduces the true class score. With a specific focus on single-lead electrocardiograms from the MIT-BIH arrhythmia dataset, we show that salient input features for the LSTM classifier align well with medical theory.

研究动机与目标

• 提升LSTM模型在单导联心电图信号心搏分类任务中的可解释性。
• 评估并比较多种可视化技术，以解释LSTM在连续时间序列上的决策过程。
• 确定哪种可视化方法最能识别心电图数据中具有临床意义的特征。
• 验证模型识别出的显著特征是否与已知的心脏形态学模式相对应。

提出的方法

• 本研究采用四种可视化技术，用于解释LSTM模型在时间序列心电图数据上的预测结果。
• 其中一种关键方法是学习一个输入删除掩码，通过最小化真实类别得分来识别关键输入片段。
• 通过基于梯度的反向传播优化该删除掩码，以突出显示输入序列中的显著时间步。
• 该方法应用于MIT-BIH心律失常数据集，重点关注单导联心电图记录。
• 通过对比不同可视化技术的结果，确定哪种方法最能捕捉具有临床意义的特征。

实验结果

研究问题

• RQ1 哪种可视化技术在识别LSTM模型用于心电图分类的显著输入特征方面最为有效？
• RQ2 模型识别出的显著特征是否与已知的心脏形态学理论一致？
• RQ3 与其它可解释性方法相比，输入删除掩码优化在相关性和一致性方面表现如何？
• RQ4 基于模型生成的显著性图是否能突出显示与已知心律失常模式相对应的心电图特征？

主要发现

• 输入删除掩码方法在识别分类相关输入特征方面优于其他可视化技术。
• 采用删除掩码生成的显著性图突出了心电图信号中与临床重要性相关的关键区域。
• 识别出的显著特征与已知的心电图形态学（如QRS波群和T波）高度吻合，支持其临床可解释性。
• 该方法在突出对真实类别预测至关重要的特征方面表现出稳健性，表明其显著性水平高。