[论文解读] CLOCS: Contrastive Learning of Cardiac Signals.

Dani Kiyasseh, Tingting Zhu+1 more|arXiv (Cornell University)|May 27, 2020

Phonocardiography and Auscultation Techniques参考文献 13被引用 12

一句话总结

CLOCS 提出了一种用于心脏信号的对比学习框架，通过在时间、导联和患者之间对齐嵌入来学习表征，显著优于 SimCLR 在下游任务中的表现，并且仅使用 25% 的标注数据即实现了优异性能，同时支持针对患者的个性化表征学习，以实现患者相似性的量化。

ABSTRACT

The healthcare industry generates troves of unlabelled physiological data. This data can be exploited via contrastive learning, a self-supervised pre-training mechanism that encourages representations of instances to be similar to one another. We propose a family of contrastive learning methods, CLOCS, that encourages representations across time, leads, and patients to be similar to one another. We show that CLOCS consistently outperforms the state-of-the-art approach, SimCLR, on both linear evaluation and fine-tuning downstream tasks. We also show that CLOCS achieves strong generalization performance with only 25% of labelled training data. Furthermore, our training procedure naturally generates patient-specific representations that can be used to quantify patient-similarity.

研究动机与目标

• 为解决心脏信号标注数据有限的挑战，通过利用自监督对比学习。
• 通过在时间片段、导联和患者之间对齐嵌入，改善心电图数据的表征学习。
• 在仅使用极少标注数据（特别是训练集的 25%）的情况下，实现强大的下游性能。
• 生成患者特定的表征，以实现患者相似性的量化。

提出的方法

• CLOCS 采用一种对比学习目标，促使来自同一心电图信号的多个视图之间的正样本对保持相似。
• 视图通过在时间（时间裁剪）、导联（通道级增强）和患者（跨患者视图）上对同一心电图信号进行增强而生成。
• 模型学习一个共享的表征空间，使得正样本对（例如，同一信号的不同增强版本）彼此靠近，而负样本对则被推开。
• 通过动量编码器和基于队列的记忆库来优化对比损失，以稳定训练过程。
• 该框架支持在下游任务（如心律失常检测）中进行线性评估和微调。
• 从最后一层提取患者特定的表征，并通过学习到的嵌入的余弦相似度计算患者相似性。

实验结果

研究问题

• RQ1 与最先进方法相比，跨时间、导联和患者的对比学习是否能提升心电图信号的表征质量？
• RQ2 当仅使用 25% 的标注数据进行下游微调时，CLOCS 的泛化能力如何？
• RQ3 所学习的表征是否能以临床上有意义的方式有效量化患者相似性？
• RQ4 在心电图分类任务中，CLOCS 是否在线性评估和微调设置下均优于 SimCLR？

主要发现

• CLOCS 在多个心电图数据集上，于线性评估和微调下游任务中均持续优于 SimCLR。
• CLOCS 仅使用 25% 的标注训练数据即实现了优异性能，表明其在数据稀缺条件下具有强大的泛化能力。
• 该模型生成了患者特定的表征，可通过学习到的嵌入的余弦相似度实现有意义的患者相似性量化。
• 在时间、导联和患者之间实施的对比学习目标，相比单模态或单患者方法，产生了更鲁棒且更具泛化能力的表征。