[论文解读] Explaining Deep Classification of Time-Series Data with Learned Prototypes

Alan H. Gee, Diego García-Olano+2 more|arXiv (Cornell University)|Apr 18, 2019

Phonocardiography and Auscultation Techniques参考文献 11被引用 30

一句话总结

该论文提出了一种基于原型的可解释人工智能框架，用于深度时间序列分类，通过在潜在空间中学习多样化且具代表性的原型，增强了模型的可解释性。通过引入原型多样性损失，该方法在心电图、呼吸和音频波形上提升了分类准确率和覆盖度，揭示了如心动过缓、呼吸暂停和言语发音等临床相关特征。

ABSTRACT

The emergence of deep learning networks raises a need for explainable AI so that users and domain experts can be confident applying them to high-risk decisions. In this paper, we leverage data from the latent space induced by deep learning models to learn stereotypical representations or "prototypes" during training to elucidate the algorithmic decision-making process. We study how leveraging prototypes effect classification decisions of two dimensional time-series data in a few different settings: (1) electrocardiogram (ECG) waveforms to detect clinical bradycardia, a slowing of heart rate, in preterm infants, (2) respiration waveforms to detect apnea of prematurity, and (3) audio waveforms to classify spoken digits. We improve upon existing models by optimizing for increased prototype diversity and robustness, visualize how these prototypes in the latent space are used by the model to distinguish classes, and show that prototypes are capable of learning features on two dimensional time-series data to produce explainable insights during classification tasks. We show that the prototypes are capable of learning real-world features - bradycardia in ECG, apnea in respiration, and articulation in speech - as well as features within sub-classes. Our novel work leverages learned prototypical framework on two dimensional time-series data to produce explainable insights during classification tasks.

研究动机与目标

• 解决深度学习模型在高风险临床决策中可解释性不足的问题，特别是在新生儿重症监护领域。
• 通过将原型学习直接整合到训练过程中，克服事后可解释性的局限，实现忠实、过程内解释。
• 在具有重叠或模糊类别边界的时序数据上，提升模型性能和原型多样性。
• 通过提供可解释且可反馈驱动的原型，促进临床专家与模型的协作，反映临床有意义的表型。
• 展示所学原型在检测心电图、呼吸和音频波形中细微病理特征方面的实用性。

提出的方法

• 将基于原型的自编码器与分类头结合，联合优化潜在空间中的重建与分类任务。
• 在损失函数中引入原型多样性惩罚项 $\lambda_{pd} \cdot PDL(p_1, ..., p_m)$，以抑制原型聚集，促进独特且非冗余的表示。
• 使用潜在空间中原型之间的 $L_2$ 距离来量化接近程度，并对相似性施加惩罚，从而增强多样性。
• 通过反向传播端到端训练模型，使原型在优化过程中可被更新，以反映显著且具代表性的特征。
• 在二维潜在空间中可视化原型，以解释其如何对应于心动过缓或呼吸暂停等临床相关信号模式。
• 微调多样性超参数 $\lambda_{pd}$，以平衡原型的可解释性与分类准确率。

实验结果

研究问题

• RQ1 深度自编码器潜在空间中学习到的原型是否能忠实反映心电图、呼吸和言语波形等时序数据中的临床相关特征？
• RQ2 引入原型多样性惩罚后，对模型准确率、原型覆盖度和可解释性在时序分类中的影响如何？
• RQ3 原型在多大程度上能够揭示细微、重叠或中间状态的病理表型（如轻度与重度心动过缓），这些表型对临床医生而言难以区分？
• RQ4 在不同信号质量的时序模态（如心电图 vs. 呼吸 vs. 音频）中，模型性能和原型质量如何变化？
• RQ5 临床医生能否通过可调节的多样性正则化，利用基于原型的反馈迭代优化模型行为？

主要发现

• 原型多样性惩罚显著提升了原型的独特性，与基线相比，$\lambda_{pd} = 500$ 在所有任务中均获得更高的多样性评分。
• 微调 $\lambda_{pd}$ 后，分类准确率和数据覆盖度得到提升，尤其在具有重叠或模糊类别边界的困难区域表现更优。
• 模型为细微或中间类别（如轻度心动过缓）分配了更多原型，捕捉了人类难以辨别的特征。
• 增加网络深度并优化学习率，进一步提升了所有三项任务中的准确率和原型多样性。
• 该方法在使用少量原型的情况下实现了近乎完美的原型重建，但以牺牲分类准确率为代价，表明可解释性与性能之间存在权衡。
• 该框架实现了临床医生与模型之间的闭环协作，使专家能够通过多样性正则化引导原型学习，以发现具有临床意义的表型。