[论文解读] Using Multitask Learning to Improve 12-Lead Electrocardiogram Classification

J. Weston Hughes, Taylor Sittler+4 more|arXiv (Cornell University)|Dec 2, 2018

ECG Monitoring and Analysis被引用 4

一句话总结

本文提出一种多任务卷积神经网络（CNN），通过联合学习多种心脏疾病诊断，显著提升了罕见心律失常的分类性能，实现了共享表征学习。基于包含24个二元标签的41,522个心电图样本数据集，多头模型在F1分数上表现更优，尤其在罕见类别如二度房室传导阻滞（Mobitz I）上，性能从0.58提升至0.73，表明来自相关常见类别的监督可有效增强罕见类别的泛化能力。

ABSTRACT

We develop a multi-task convolutional neural network (CNN) to classify multiple diagnoses from 12-lead electrocardiograms (ECGs) using a dataset comprised of over 40,000 ECGs, with labels derived from cardiologist clinical interpretations. Since many clinically important classes can occur in low frequencies, approaches are needed to improve performance on rare classes. We compare the performance of several single-class classifiers on rare classes to a multi-headed classifier across all available classes. We demonstrate that the addition of common classes can significantly improve CNN performance on rarer classes when compared to a model trained on the rarer class in isolation. Using this method, we develop a model with high performance as measured by F1 score on multiple clinically relevant classes compared against the gold-standard cardiologist interpretation.

研究动机与目标

• 为解决由于训练数据不足，导致在12导联心电图中对罕见心脏心律失常分类性能较低的问题。
• 探究多任务学习是否可通过利用更常见、相关的类别，提升罕见心电图诊断的分类准确性。
• 开发一种高性能的多头深度学习模型，用于12导联心电图，实现对多种临床相关诊断的泛化。
• 评估在罕见类别中添加单一相关常见类别是否能显著提升性能，从而减少对罕见疾病大规模数据收集的需求。

提出的方法

• 在10秒内以250Hz采样的12导联心电图上训练一个34层卷积神经网络（CNN），生成12×2500的输入张量。
• 模型采用多头架构，每个诊断类别对应一个输出头，实现所有24个二元分类任务的同时联合训练。
• 每个头使用二元交叉熵损失预测特定心脏诊断的有无，梯度通过共享卷积层反向传播。
• 对数据集进行重采样以平衡类别频率，将少数类别样本上采样至4,000个，以缓解类别不平衡问题。
• 通过所有类别上的F1分数评估性能，并比较在不同类别子集上训练的单头模型与多头模型的性能。
• 模型利用类别之间的层次结构与相关性（如房室传导阻滞、心动过速等）来改善共享特征层中的表征学习。

实验结果

研究问题

• RQ1 通过与更常见类别共享表征，多任务学习是否能提升深度学习模型在罕见12导联心电图诊断上的F1分数？
• RQ2 在训练二度房室传导阻滞（Mobitz I）这一罕见诊断时，仅加入一个相关常见类别（如一度房室传导阻滞）是否能带来与加入所有其他无关类别相当的性能提升？
• RQ3 多头模型在性能上与在孤立状态下训练的单头模型相比如何，特别是在罕见类别训练样本少于1,000个时？
• RQ4 当应用于具有异质性、低频诊断标签的心电图时，多任务学习在多大程度上能增强CNN深层的特征学习？

主要发现

• 多头模型在所有类别上均优于单头模型，尤其在罕见类别上F1分数提升最为显著，如完全性心脏阻滞（F1：0.62 vs. 0.09）和房室结折返性心动过速（F1：0.49 vs. 0.39）。
• 对于仅有626个样本的罕见类别二度房室传导阻滞（Mobitz I），多头模型的F1分数达到0.73，显著优于单头模型的0.58。
• 仅在二度房室传导阻滞（Mobitz I）的训练中加入一个相关常见类别（一度房室传导阻滞），即可获得与加入所有其他类别相当的性能增益，表明相关监督极为有效。
• 常见类别如窦性心律（F1：0.91）和心房颤动（F1：0.85）在单头与多头模型中均表现优异，但多头模型仍带来适度提升。
• 模型表明，跨多个任务的共享表征学习可改善特征提取，尤其在深层网络中，从而提升低资源类别上的泛化能力。
• 结果表明，多任务学习可降低罕见心电图诊断的数据效率门槛，即使每类罕见诊断样本少于1,000个，也能实现高性能模型。