[论文解读] CLOCS: Contrastive Learning of Cardiac Signals Across Space, Time, and Patients

Kiyasseh, Dani, Zhu, Tingting+1 more|arXiv (Cornell University)|May 27, 2020

Phonocardiography and Auscultation Techniques被引用 38

一句话总结

CLOCS 引入以患者为中心的对比学习用于 ECG，利用时间、空间和患者级不变性学习鲁棒表征，表现优于 BYOL 和 SimCLR，数据效率高。

ABSTRACT

The healthcare industry generates troves of unlabelled physiological data. This data can be exploited via contrastive learning, a self-supervised pre-training method that encourages representations of instances to be similar to one another. We propose a family of contrastive learning methods, CLOCS, that encourages representations across space, time, \ extit{and} patients to be similar to one another. We show that CLOCS consistently outperforms the state-of-the-art methods, BYOL and SimCLR, when performing a linear evaluation of, and fine-tuning on, downstream tasks. We also show that CLOCS achieves strong generalization performance with only 25\\% of labelled training data. Furthermore, our training procedure naturally generates patient-specific representations that can be used to quantify patient-similarity.

研究动机与目标

• 在临床环境中标签稀缺的情况下，促进从大量未标记的ECG数据中学习。
• 开发利用ECG信号中的时间不变性和空间不变性的患者特异性对比学习方法。
• 证明CLOCS方法在心律失常分类任务上优于最先进的自监督基线。
• 展示在有限标注数据下的数据高效训练以及新出现的患者特异性表征。
• 探索学习得到的表征在跨数据集和下游任务中的泛化与可迁移性。

提出的方法

• 不仅从同一实例定义正样本，还从同一患者在变换下定义正样本。
• 引入三种基于变换的编码方案：Contrastive Multi-segment Coding (CMSC)、Contrastive Multi-lead Coding (CMLC)，以及 Contrastive Multi-segment Multi-lead Coding (CMSMLC)。
• 使用患者特异性的 Noise Contrastive Estimation (NCE) 损失，结合余弦相似度和温度缩放，在同一患者内最大化一致性、在跨患者间最小化。
• 利用时间不变性（分段级）和空间不变性（导联级）来创建ECG信号的增强视图。
• 在具有不同导联数量的多个ECG数据集上，以线性评估和微调协议进行评估（4导联配置和12导联设置）。
• 将CLOCS与 Random Init.、Supervised、MT-SSL、BYOL 和 SimCLR 基线进行比较。

实验结果

研究问题

• RQ1 患者级上下文是否能超越实例级上下文改善ECG信号的对比表示？
• RQ2 当与患者特异性正样本结合时，ECG的时间不变性和空间不变性是否共同行提升表征学习？
• RQ3 在心律失常分类任务中，CMSC、CMLC 和 CMSMLC 与标准自监督基线相比如何？
• RQ4 CLOCS 是否具备数据高效性，在有限标注数据下实现强大的下游表现？
• RQ5 所学表征是否在不同数据集上泛化并支持以患者为中心的分析？

主要发现

• CLOCS 变体在心律失常分类任务的线性评估和微调中持续超越 BYOL 和 SimCLR。
• CMSC 在强线性评估上的表现突出（示例：Chapman 数据集），并在不同数据集上优于若干基线。
• 在25%标注数据下，CLOCS 表征仍具竞争力，表明强数据效率。
• CMSC 和 CMSMLC 产生更易分离的、患者特异性的表征，相比于 SimCLR，通过患者内外距离分析得到证据。
• 在扰动研究中，CMSC 的性能持续优于 SimCLR，表明收益来自患者级共享上下文，而非仅仅扰动选择。
• 在大多数实验中，所有 CLOCS 变体均优于 SimCLR，当使用12导联时，CMSC表现最好。