[논문 리뷰] Combining Generative and Discriminative Neural Networks for Sleep Stages Classification

Endang Purnama Giri, Mohamad Ivan Fanany외 1명|arXiv (Cornell University)|2016. 10. 06.

EEG and Brain-Computer Interfaces참고 문헌 7인용 수 12

한 줄 요약

이 논문은 수면 단계 분류를 향상시키기 위해 계층적 특징 추출을 위한 딥 빌리프 네트워크(Deep Belief Network, DBN)와 시계열 모델링을 위한 장기 단기 기억(Long Short-Term Memory, LSTM) 네트워크를 조합한 하이브리드 딥 러닝 모델을 제안한다. 제안된 방법은 기준 데이터셋에서 98.75%의 정확도와 맞춤형 MKG 데이터셋에서 98.94%의 정확도를 기록하여 이전의 최고 성능(91.31%)을 뛰어넘었으며, 수면 전기 뇌파(EEG), 안구 운동(EOG), 근전도(EMG) 신호의 시간적 패턴을 활용하여 수작업으로 생성한 특징을 입력으로 사용한다.

ABSTRACT

Sleep stages pattern provides important clues in diagnosing the presence of sleep disorder. By analyzing sleep stages pattern and extracting its features from EEG, EOG, and EMG signals, we can classify sleep stages. This study presents a novel classification model for predicting sleep stages with a high accuracy. The main idea is to combine the generative capability of Deep Belief Network (DBN) with a discriminative ability and sequence pattern recognizing capability of Long Short-term Memory (LSTM). We use DBN that is treated as an automatic higher level features generator. The input to DBN is 28 "handcrafted" features as used in previous sleep stages studies. We compared our method with other techniques which combined DBN with Hidden Markov Model (HMM).In this study, we exploit the sequence or time series characteristics of sleep dataset. To the best of our knowledge, most of the present sleep analysis from polysomnogram relies only on single instanced label (nonsequence) for classification. In this study, we used two datasets: an open data set that is treated as a benchmark; the other dataset is our sleep stages dataset (available for download) to verify the results further. Our experiments showed that the combination of DBN with LSTM gives better overall accuracy 98.75\% (Fscore=0.9875) for benchmark dataset and 98.94\% (Fscore=0.9894) for MKG dataset. This result is better than the state of the art of sleep stages classification that was 91.31\%.

연구 동기 및 목표

• 생성적 및 판별적 딥 러닝 모델을 통합하여 수면 단계 분류 정확도를 향상시키는 것.
• 기존 방법들이 수면 단계를 상호 독립적인 인스턴스로 간주하는 데서 비롯하는 한계를 해결하는 것.
• 공개 기준 데이터셋과 맞춤형 수면 데이터셋에서 하이브리드 DBN-LSTM 아키텍처의 성능을 평가하는 것.
• 이전의 최고 성능 기준 모델들, 특히 DBN-HMM 및 기타 하이브리드 모델들과의 비교를 통해 제안 모델의 성능을 분석하는 것.
• 고정밀도 수면 단계 분류를 위해 수작업 특징을 딥 러닝과 융합하는 것이 가능한지 탐색하는 것.

제안 방법

• EEG, EOG, EMG 신호에서 추출한 28개의 수작업 특징을 기반으로, 비지도 학습 방식으로 사전 훈련된 딥 빌리프 네트워크(Deep Belief Network, DBN)를 사용한다.
• DBN을 계층적 특징 추출기로 활용하여 원시 특징을 고차원 표현으로 변환한다.
• DBN에 의해 학습된 특징을 장기 단기 기억(Long Short-Term Memory, LSTM) 네트워크에 입력하여 수면 단계 간의 시간적 의존성을 모델링한다.
• LSTM이 수면 단계 전이의 장기적 순차적 패턴을 포착할 수 있는 능력을 활용한다.
• 스택드 제한된 볼츠만 머신(Restricted Boltzmann Machines, RBMs)을 사용하여 대trastive divergence 알고리즘을 적용해 DBN을 훈련한 후, 역전파를 통한 미세 조정(fine-tuning)을 수행한다.
• 공개 기준 데이터셋과 새로 수집한 MKG 데이터셋 두 가지에 대해 DBN+LSTM 모델을 적용하여 검증한다.

실험 결과

연구 질문

• RQ1 생성 모델(DBN)과 순차적 판별 모델(LSTM)을 조합함으로써, 이전의 방법들보다 수면 단계 분류 정확도가 향상되는가?
• RQ2 DBN+LSTM 모델은 기준 데이터셋과 새로 수집한 수면 데이터셋 모두에서 총 정확도와 F1 점수 측면에서 어떻게 성능을 내는가?
• RQ3 수면 단계를 상호 독립적인 인스턴스가 아닌 순차적 시퀀스로 간주함으로써 분류 성능에 어떤 영향을 미치는가?
• RQ4 기존 최고 성능 기준(특히 이전 연구에서 보고한 91.31% 정확도)과 비교했을 때, 분류 결과는 어떻게 다른가?
• RQ5 어느 수면 단계 쌍이 가장 구분하기 어려운가? 그리고 모델은 이러한 클래스에서 어떻게 성능을 내는가?

주요 결과

• DBN+LSTM 모델은 기준 데이터셋에서 총 정확도 98.75%와 F1 점수 0.9875를 기록하여 이전 최고 성능(91.31%)을 크게 뛰어넘었다.
• 맞춤형 MKG 데이터셋에서는 총 정확도 98.94%와 F1 점수 0.9894를 달성하여 우수한 일반화 능력을 입증했다.
• DBN+LSTM의 혼동 행렬은 S3(깊은 수면)와 REM 단계에서 거의 완벽한 분류 성능(각각 98% 이상 정확도)을 보였다.
• 가장 어려운 수면 단계 쌍은 EOG 및 EMG 파형 특성이 유사한 S1과 S2였으며, MKG 데이터셋에서는 WAKE와 S1 간의 구분이 어려웠다.
• DBN+HMM 대비 LSTM 구성 요소가 성능 향상에 기여하여 F1 점수가 높고, 교차 검증 폴드 간 일관성 있는 예측을 보였다.
• DBN 사전 훈련 단계의 학습 시간은 1 폴드당 약 42~45분이었으며, 기준 데이터셋의 전체 훈련은 약 4시간, MKG 데이터셋에서는 약 17시간이 소요되었고, 추론 시간은 20,000개 샘플 기준 약 16초로 매우 짧았다.