[论文解读] LSTM knowledge transfer for HRV-based sleep staging

Mustafa Radha, Pedro Fonseca+4 more|arXiv (Cornell University)|Sep 12, 2018

Heart Rate Variability and Autonomic Control参考文献 33被引用 6

一句话总结

该论文提出了一种基于LSTM的深度学习模型，用于基于HRV的睡眠分期，其在大型ECG数据集上（Cohen’s $κ$ = 0.61±0.16）优于先前的非时序和马尔可夫方法。此外，该研究成功实现了从ECG到PPG数据的知识迁移，在较小的PPG数据集上实现了最先进性能（$κ$ = 0.63±0.13），凸显了迁移学习在跨传感器模态和标注标准之间适应模型的有效性。

ABSTRACT

Automated sleep stage classification using heart-rate variability is an active field of research. In this work limitations of the current state-of-the-art are addressed through the use of deep learning techniques and their efficacy is demonstrated. First, a temporal model is proposed for the inference of sleep stages from electrocardiography using a deep long- and short-term (LSTM) classifier and it is shown that this model outperforms previous approaches which were often limited to non-temporal or Markovian classifiers on a comprehensive benchmark data set (292 participants, 541214 samples) comprising a wide range of ages and pathological profiles, achieving a Cohen's $κ$ of $0.61\pm0.16$ and accuracy of $76.30\pm10.17$ annotated according to the Rechtschaffen & Kales annotation standard. Subsequently, it is demonstrated how knowledge learned on this large benchmark data set can be re-used through transfer learning for the classification of photoplethysmography (PPG) data. This is done using a smaller data set (60 participants, 91479 samples) that is annotated with the more recent American Association of Sleep Medicine annotation standard, achieving a Cohen's $κ$ of $0.63\pm0.13$ and accuracy of $74.65\pm8.63$ for wrist-mounted PPG-based sleep stage classification, higher than any previously reported performance using this sensor modality. This demonstrates the feasibility of knowledge transfer in sleep staging to adapt models for new sensor modalities as well as different annotation strategies.

研究动机与目标

• 开发一种深度学习模型，有效捕捉HRV中的时序动态，以提升睡眠阶段分类性能，优于非时序或马尔可夫模型。
• 通过将来自大型多样化ECG数据集的知识迁移至较小的PPG数据集，解决PPG数据有限的挑战，以提升性能。
• 探究迁移学习是否能有效适应在ECG上训练的模型至PPG数据，尽管存在信号质量差异和脉搏传导时间变异性。
• 评估迁移学习在适应更新的AASM睡眠分期标准与旧的R&K标准方面的影响，特别是考虑到AASM标准具有更高的评分者间一致性。
• 确定迁移学习带来的性能提升主要源于对AASM指南的适应，还是源于从ECG到PPG的模态特定知识迁移。

提出的方法

• 使用深度长短期记忆（LSTM）网络作为核心分类器，以建模30秒HRV时段内的时序依赖性。
• 该模型首先在大型ECG数据集（292名参与者，541,214个样本）上进行预训练，该数据集使用R&K标准标注，以学习一般睡眠阶段模式。
• 通过在较小的PPG数据集（60名参与者，91,479个样本）上微调预训练的LSTM，应用迁移学习，该数据集使用AASM标准标注。
• 评估了多种迁移策略：领域自适应（仅迁移特征层）、决策层自适应和完整模型微调。
• 模型被训练以预测四种睡眠阶段：清醒（W）、N1/2、N3和REM，使用从ECG和PPG信号中提取的HRV特征。
• 性能通过Cohen加权kappa（$\kappa$）和准确率进行评估，并与ECG和PPG数据上先前最先进方法的结果进行比较。

实验结果

研究问题

• RQ1 基于ECG数据的LSTM模型是否能优于非时序或马尔可夫分类器在HRV基睡眠分期中的表现？
• RQ2 从大型ECG数据集中学到的知识在多大程度上能成功迁移至较小的、质量较低的PPG数据集，以提升睡眠分期性能？
• RQ3 迁移学习是否通过适应AASM标注标准或从ECG到PPG的模态特定HRV模式迁移，带来更大的性能提升？
• RQ4 深度学习模型的哪些组件（例如，领域层、决策层）对成功迁移至PPG数据最为关键？
• RQ5 迁移学习带来的性能提升主要源于AASM标准下更高的评分者间一致性，还是源于模态特定的适应？

主要发现

• 所提出的LSTM模型在Siesta ECG数据集上实现了Cohen加权kappa为0.61±0.16，准确率为76.30±10.17，优于先前的非时序和马尔可夫模型。
• 经过迁移学习后，该模型在PPG数据集上实现了Cohen加权kappa为0.63±0.13，准确率为74.65±8.63，超越了所有先前报道的PPG基睡眠分期结果。
• 在PPG数据上的性能提升显著高于先前研究，后者在类似传感器模态和额外加速度计的情况下报告的kappa值分别为0.42和0.52。
• 对于向PPG的迁移，微调决策层是实现最佳性能的必要条件，表明模态差异需要的不仅仅是领域自适应。
• 该提升可能主要源于对AASM标准的适应，该标准相比旧的R&K标准具有更高的评分者间一致性，尽管该因素的确切贡献仍有待完全量化。
• 该模型在PPG数据上的性能高于仅在PPG数据上直接训练的基线LSTM模型（$\kappa$ = 0.55），证明了即使目标数据有限，迁移学习也具有显著价值。