[논문 리뷰] LSTM knowledge transfer for HRV-based sleep staging

Mustafa Radha, Pedro Fonseca외 4명|arXiv (Cornell University)|2018. 09. 12.

Heart Rate Variability and Autonomic Control참고 문헌 33인용 수 6

한 줄 요약

이 논문은 대규모 ECG 데이터셋에서 비순차적 또는 마르코프 기반 기존 방법들을 능가하는 HRV 기반 수면 단계 분류를 위한 LSTM 기반 딥러닝 모델을 제안한다 (Cohen’s $\kappa$ = 0.61±0.16). 또한 ECG에서 PPG 데이터로의 성공적인 지식 전이를 입증하여, 더 작은 PPG 데이터셋에서 최신 기준 성능을 달성한다 ($\kappa$ = 0.63±0.13), 이는 다양한 센서 모odal리티와 표준에 맞게 모델을 적응시키는 데서 전이 학습의 유효성을 보여준다.

ABSTRACT

Automated sleep stage classification using heart-rate variability is an active field of research. In this work limitations of the current state-of-the-art are addressed through the use of deep learning techniques and their efficacy is demonstrated. First, a temporal model is proposed for the inference of sleep stages from electrocardiography using a deep long- and short-term (LSTM) classifier and it is shown that this model outperforms previous approaches which were often limited to non-temporal or Markovian classifiers on a comprehensive benchmark data set (292 participants, 541214 samples) comprising a wide range of ages and pathological profiles, achieving a Cohen's $κ$ of $0.61\pm0.16$ and accuracy of $76.30\pm10.17$ annotated according to the Rechtschaffen & Kales annotation standard. Subsequently, it is demonstrated how knowledge learned on this large benchmark data set can be re-used through transfer learning for the classification of photoplethysmography (PPG) data. This is done using a smaller data set (60 participants, 91479 samples) that is annotated with the more recent American Association of Sleep Medicine annotation standard, achieving a Cohen's $κ$ of $0.63\pm0.13$ and accuracy of $74.65\pm8.63$ for wrist-mounted PPG-based sleep stage classification, higher than any previously reported performance using this sensor modality. This demonstrates the feasibility of knowledge transfer in sleep staging to adapt models for new sensor modalities as well as different annotation strategies.

연구 동기 및 목표

• 비순차적 또는 마르코프 기반 모델에 비해 수면 단계 분류 성능을 향상시키기 위해 HRV의 시간 동적 특성을 효과적으로 포착하는 딥러닝 모델을 개발하는 것.
• PPG 데이터의 제한된 양을 해결하기 위해 대규모이고 다양한 ECG 데이터셋에서 학습한 지식을 활용하여 더 작은 PPG 데이터셋에서의 성능을 향상시키는 것.
• ECG에서 학습한 모델이 신호 품질의 차이와 맥박 전도 시간 변동성의 차이가 있는 PPG 데이터로의 전이 학습이 효과적으로 이루어질 수 있는지 조사하는 것.
• 최근 AASM 수면 단계 기준과 이전의 R&K 기준 간의 차이를 감안하여, 전이 학습이 더 최신 AASM 표준에 적응시키는 데 어떤 영향을 미치는지 평가하는 것.
• 전이 학습의 성능 향상 요인이 주로 AASM 지침에 적응하는 데 기인하는지, 아니면 ECG에서 PPG로의 모달리티 특화된 HRV 패턴 전이에 기인하는지 확인하는 것.

제안 방법

• 30초 단위의 HRV 에포크에서 시간적 의존성을 모델링하기 위해 핵심 분류기로 깊이 있는 장단기 기억(LSTM) 네트워크를 사용한다.
• 모델은 먼저 R&K 표준으로 애너테이션된 대규모 ECG 데이터셋(292명, 541,214개 샘플)에서 사전 훈련되어 일반적인 수면 단계 패턴을 학습한다.
• 전이 학습은 사전 훈련된 LSTM을 AASM 표준으로 애너테이션된 더 작은 PPG 데이터셋(60명, 91,479개 샘플)에서 미세 조정함으로써 적용된다.
• 다양한 전이 전략을 평가한다: 도메인 적응(특징 레이어만 전이), 결정 레이어 적응, 전체 모델 미세 조정.
• HRV 특징을 ECG 및 PPG 신호에서 유도하여, 각각 각각의 수면 단계(W, N1/2, N3, REM)를 예측하도록 모델을 훈련한다.
• 성능 평가에는 Cohen의 가중 카파($\kappa$)와 정확도를 사용하며, ECG 및 PPG 데이터 모두에서 이전 최신 기준 성능과의 비교를 수행한다.

실험 결과

연구 질문

• RQ1 ECG 데이터를 사용한 HRV 기반 수면 단계 분류에서 LSTM 기반 모델이 비순차적 또는 마르코프 기반 분류기보다 성능이 뛰어나게 될 수 있는가?
• RQ2 대규모 ECG 데이터셋에서 학습한 지식이 작은, 품질이 낮은 PPG 데이터셋에서의 수면 단계 분류 성능 향상에 얼마나 효과적으로 전이될 수 있는가?
• RQ3 전이 학습이 AASM 애너테이션 표준에 적응하는 데 더 큰 영향을 미치는가, 아니면 ECG에서 PPG로의 모달리티 특화된 HRV 패턴 전이에 더 큰 기여를 하는가?
• RQ4 딥러닝 모델의 구성 요소 중에서(예: 도메인 레이어, 결정 레이어) PPG 데이터로의 성공적인 전이에 가장 중요한 요소는 무엇인가?
• RQ5 전이 학습의 성능 향상 요인이 주로 AASM 표준 하에서 향상된 평가자 간 일치도 때문인지, 아니면 모달리티 특화된 적응 때문인지?

주요 결과

• 제안된 LSTM 모델은 Siesta ECG 데이터셋에서 Cohen의 가중 카파 0.61±0.16과 정확도 76.30±10.17을 기록하여 이전의 비순차적 및 마르코프 기반 모델을 모두 능가했다.
• 전이 학습 이후, 모델은 PPG 데이터셋에서 Cohen의 가중 카파 0.63±0.13과 정확도 74.65±8.63을 달성하여, PPG 기반 수면 단계 분류에서 이전에 보고된 모든 결과를 초월했다.
• PPG 데이터에서의 성능 향상은 이전 연구들보다 유의미하게 높았으며, 유사한 센서 모달리티와 추가 가속도계를 사용한 연구들에서 보고된 카파 값(0.42 및 0.52)보다 높았다.
• PPG로의 전이에 있어 결정 레이어의 미세 조정이 최적의 성능을 내기 위해 필수적이었으며, 이는 모달리티 간의 차이가 도메인 적응만으로는 충분하지 않음을 시사한다.
• 향상된 성능는 주로 AASM 표준에 적응함으로써 발생했을 가능성이 높으며, 이 표준은 이전의 R&K 표준보다 평가자 간 일치도가 더 높기 때문이다. 다만 이 요소의 정확한 기여도는 아직 완전히 정량화되지 않았다.
• PPG 데이터에 직접 훈련된 기본 LSTM 모델($\kappa$ = 0.55)보다 전이 학습을 통해 얻은 성능이 높았으며, 이는 제한된 타겟 데이터가 있는 상황에서도 전이 학습의 가치를 입증한다.