[论文解读] Improving Clinician Performance in Classification of EEG Patterns on the Ictal-Interictal-Injury Continuum using Interpretable Machine Learning

Alina Jade Barnett, Zhicheng Guo+13 more|arXiv (Cornell University)|Nov 9, 2022

Machine Learning in Healthcare参考文献 27被引用 5

一句话总结

本文提出ProtoPMed-EEG，一种可解释的深度学习模型，通过将输入与学习到的原型模式进行比较，沿发作间期-发作期-损伤连续体（IIIC）对EEG模式进行分类，其准确率高于其黑箱对应模型（SPaRCNet），同时提供基于案例的解释。该模型通过透明的决策过程增强临床信任，并通过二维可视化揭示了病理EEG模式的连续全局结构。

ABSTRACT

In intensive care units (ICUs), critically ill patients are monitored with electroencephalograms (EEGs) to prevent serious brain injury. The number of patients who can be monitored is constrained by the availability of trained physicians to read EEGs, and EEG interpretation can be subjective and prone to inter-observer variability. Automated deep learning systems for EEG could reduce human bias and accelerate the diagnostic process. However, black box deep learning models are untrustworthy, difficult to troubleshoot, and lack accountability in real-world applications, leading to a lack of trust and adoption by clinicians. To address these challenges, we propose a novel interpretable deep learning model that not only predicts the presence of harmful brainwave patterns but also provides high-quality case-based explanations of its decisions. Our model performs better than the corresponding black box model, despite being constrained to be interpretable. The learned 2D embedded space provides the first global overview of the structure of ictal-interictal-injury continuum brainwave patterns. The ability to understand how our model arrived at its decisions will not only help clinicians to diagnose and treat harmful brain activities more accurately but also increase their trust and adoption of machine learning models in clinical practice; this could be an integral component of the ICU neurologists' standard workflow.

研究动机与目标

• 解决由于临床医生短缺和观察者间差异，ICU中EEG解读能力有限的临床挑战。
• 克服黑箱深度学习模型在EEG分析中的局限性，这些模型缺乏可解释性，阻碍临床信任。
• 开发一种可解释的模型，在保持或提升分类性能的同时，提供透明且人类可理解的解释。
• 在二维潜在空间中可视化发作间期-发作期-损伤连续体（IIIC）的全局结构，揭示EEG类别之间的过渡模式。
• 通过开发图形用户界面（GUI）将模型集成到临床工作流程中，实现实时检查和决策支持。

提出的方法

• ProtoPMed-EEG采用基于原型的深度学习方法，在IIIC的每个EEG类别中学习代表性模式（原型）。
• 通过相似性比较进行预测解释：'该EEG与该原型相似'，从而实现基于案例的可解释性。
• 使用保持结构的降维技术生成潜在空间的全局二维嵌入，以可视化EEG模式之间的关系。
• 在大规模EEG数据集上训练和评估该模型，并与黑箱SPaRCNet模型进行性能对比。
• 通过自 resampling（按样本和按患者）和p值计算对统计显著性进行评估，用于邻域分析。
• 开发图形用户界面（GUI），使临床医生能够检查模型决策、原型以及二维潜在空间。

实验结果

研究问题

• RQ1 可解释的深度学习模型是否能在沿IIIC连续体分类EEG模式方面优于黑箱模型，同时提供人类可读的解释？
• RQ2 EEG模式在IIIC中的关系在低维潜在空间中如何表现？它们是否形成一个连续谱？
• RQ3 与不可解释的模型相比，该可解释模型在多大程度上提升了临床信任和决策能力？
• RQ4 该模型的解释（通过原型比较）是否与临床推理和医学知识一致？
• RQ5 在统计不确定性下，该模型的性能是否依然稳健，如通过自 resampling 和p值所衡量？

主要发现

• 与不可解释的SPaRCNet模型相比，ProtoPMed-EEG在整体IIIC分类任务中实现了更高的AUROC（0.91 vs. 0.89）和AUPRC（0.74 vs. 0.70）。
• 在100%的样本自 resampling（按样本）中，可解释模型优于黑箱模型；在超过77%的患者自 resampling 样本中，AUPRC也表现更优。
• 邻域分析显示，可解释模型显著优于不可解释模型，所有类别中p值均小于0.001。
• 潜在空间的二维可视化表明，EEG模式并非孤立存在，而是形成一个连续且连通的谱系，过渡模式连接了不同类别。
• 通过原型比较获得的模型解释稳定且可复现，多次运行Annoy近似算法后，邻域结果变化小于0.01%。
• GUI使临床医生能够检查模型决策、原型以及IIIC的全局结构，支持其集成到临床工作流程中。