[论文解读] Subject-Aware Contrastive Learning for Biosignals

Joseph Y. Cheng, Hanlin Goh+3 more|arXiv (Cornell University)|Jun 30, 2020

Muscle activation and electromyography studies参考文献 45被引用 77

一句话总结

一个针对生物信号的自监督对比学习方法，结合主体感知损失以处理跨主体变异，在大量EEG和ECG评估中显示出具有竞争力的性能，并在标注数据和受试者有限时提供改进的表征。

ABSTRACT

Datasets for biosignals, such as electroencephalogram (EEG) and electrocardiogram (ECG), often have noisy labels and have limited number of subjects (<100). To handle these challenges, we propose a self-supervised approach based on contrastive learning to model biosignals with a reduced reliance on labeled data and with fewer subjects. In this regime of limited labels and subjects, intersubject variability negatively impacts model performance. Thus, we introduce subject-aware learning through (1) a subject-specific contrastive loss, and (2) an adversarial training to promote subject-invariance during the self-supervised learning. We also develop a number of time-series data augmentation techniques to be used with the contrastive loss for biosignals. Our method is evaluated on publicly available datasets of two different biosignals with different tasks: EEG decoding and ECG anomaly detection. The embeddings learned using self-supervision yield competitive classification results compared to entirely supervised methods. We show that subject-invariance improves representation quality for these tasks, and observe that subject-specific loss increases performance when fine-tuning with supervised labels.

研究动机与目标

• 以有限标签和少量受试者为条件，获得鲁棒的生物信号表征的动机。
• 通过引入主体感知机制在SSL中解决跨受试者变异。
• 开发针对生物信号的领域灵感数据增广。
• 通过(a) 面向主体的对比损失和(b) 对抗主体不变性，将主体信息整合进来。
• 在EEG解码和ECG异常检测任务中评估表征。

提出的方法

• 使用编码器G将增广的生物信号片段映射到潜在表示。
• 通过InfoNCE对比损失优化两个增广之间的互信息。
• 引入主体感知训练：(i) 面向主体的对比损失，以及 (ii) 对抗训练以促进主体不变性。
• 将主体信息纳入负采样和/或正则化，权重可控lambda。
• 开发并应用时序增广（时序裁剪、时序延迟、噪声、带阻、信号混合）以及EEG特定的空间增广。
• 使用动量编码器训练，以扩大跨批次和时间的负样本集。

实验结果

研究问题

• RQ1 自监督对比学习在有限标签和受试者条件下能否产生具有辨别力的生物信号表征？
• RQ2 将主体感知性（不变性或特异性）引入后，相比基础SSL，是否能改善下游的EEG/ECG任务？
• RQ3 在对比框架中哪些数据增广最能保留生物信号的任务相关信息？
• RQ4 在看不见的受试者上对SSL表征进行微调并用监督标签训练时，主体感知SSL的表现如何？

主要发现

• 当受试者有限时，主体不变的SSL提高了EEG和ECG的表征质量。
• 主体特异的SSL和主体不变的SSL都可以减少嵌入中的受试者识别信息并改善下游准确性。
• 在所测试的变换中，时序增广（裁剪、延迟）最能增强EEG表示学习。
• 主体感知SSL在EEG解码和ECG心搏/节律分类方面具有与完全监督基线竞争力，尤其是在标签或受试者较少时。
• 从SSL初始化微调（特别是主体特异的）可以提高EEG任务的端到端监督性能。
• 对ECG来说，在低标签/低受试者情境中主体不变SSL有益，可能需要调整正则化参数lambda以平衡主体信息。）