[论文解读] Lead-agnostic Self-supervised Learning for Local and Global Representations of Electrocardiogram

Jungwoo Oh, Hyunseung Chung+3 more|arXiv (Cornell University)|Mar 14, 2022

ECG Monitoring and Analysis被引用 13

一句话总结

该论文提出了一种无导联系的自监督预训练方法，用于心电图（ECG）信号，通过结合Wav2Vec 2.0与CMSC对比学习，联合学习局部和全局表征。该方法引入了随机导联掩码（RLM）作为数据增强策略，以提升对任意导联组合的鲁棒性，在多种导联配置下，于心律失常分类和患者识别任务中均实现了最先进性能。

ABSTRACT

In recent years, self-supervised learning methods have shown significant improvement for pre-training with unlabeled data and have proven helpful for electrocardiogram signals. However, most previous pre-training methods for electrocardiogram focused on capturing only global contextual representations. This inhibits the models from learning fruitful representation of electrocardiogram, which results in poor performance on downstream tasks. Additionally, they cannot fine-tune the model with an arbitrary set of electrocardiogram leads unless the models were pre-trained on the same set of leads. In this work, we propose an ECG pre-training method that learns both local and global contextual representations for better generalizability and performance on downstream tasks. In addition, we propose random lead masking as an ECG-specific augmentation method to make our proposed model robust to an arbitrary set of leads. Experimental results on two downstream tasks, cardiac arrhythmia classification and patient identification, show that our proposed approach outperforms other state-of-the-art methods.

研究动机与目标

• 解决现有心电图自监督方法仅关注全局上下文且对导联配置敏感的局限性。
• 通过从无标签心电图数据中学习局部与全局上下文表征，提升模型泛化能力。
• 通过引入一种新颖的数据增强策略——随机导联掩码（RLM），实现使用任意子集导联进行微调。
• 在多种导联组合下，于下游任务（如心律失常分类与患者识别）中实现优越性能。

提出的方法

• 结合Wav2Vec 2.0与CMSC对比学习目标，联合学习心电图的局部与全局表征。
• 在预训练过程中应用随机导联掩码（RLM），其中导联以0.5的概率被随机掩码，以模拟不完整导联集合。
• 通过掩码标记预测学习局部表征：被掩码的时间步长被替换为可学习的掩码标记，并使用量化特征进行预测。
• 通过局部表征的平均池化生成全局表征，以最大化时间上相邻心电图片段之间的表征一致性。
• 使用多对比损失联合优化局部对比损失与全局对比损失进行模型训练。
• 采用卷积编码器在对比学习前从原始心电图信号中提取分层特征。

实验结果

研究问题

• RQ1 与仅关注全局上下文的模型相比，联合学习局部与全局心电图表征是否能提升下游任务性能？
• RQ2 随机导联掩码（RLM）是否能增强模型在使用任意导联组合进行微调时的鲁棒性？
• RQ3 所提出方法在心律失常分类与患者识别任务上，相较于最先进自监督心电图预训练方法表现如何？
• RQ4 与仅使用RLM相比，引入心电图特定增强（如基线偏移、噪声）是否能进一步提升性能？

主要发现

• 所提方法W2V+CMSC+RLM在所有导联组合下，于心律失常分类与患者识别任务中均优于所有最先进基线方法。
• 在PTB-XL数据集上，W2V+CMSC+RLM在心律失常分类任务中实现了0.842的宏F1分数，较次优方法高出2.1个百分点。
• 在12导联设置下，患者识别任务中模型AUC达到0.968，显著优于先前方法。
• 随机导联掩码（RLM）在需要局部上下文的分类任务中持续提升性能，但因增强了局部表征学习，略微降低了识别任务性能。
• CMSC+RLM相较于CMSC单独使用表现显著提升，表明RLM增强了模型学习患者特异性表征的能力。
• 在RLM基础上额外添加心电图特定增强（如基线偏移）会降低性能，表明RLM本身在真实场景中更具有效性。