[논문 리뷰] U-Time: A Fully Convolutional Network for Time Series Segmentation Applied to Sleep Staging

Mathias Perslev, Michael Hejselbak Jensen외 3명|arXiv (Cornell University)|2019. 10. 24.

EEG and Brain-Computer Interfaces인용 수 59

한 줄 요약

U-Time 은 모든 시간 지점에서 시계열 데이터를 분할하고 최종 30초 레이블로 집계하는 완전 컨볼루션 인코더-디코더 네트워크(1D U-Net)이며, 7개의 수면 EEG 데이터셋에서 작업 특화 튜닝 없이 최첨단 성능을 달성합니다.

ABSTRACT

Neural networks are becoming more and more popular for the analysis of physiological time-series. The most successful deep learning systems in this domain combine convolutional and recurrent layers to extract useful features to model temporal relations. Unfortunately, these recurrent models are difficult to tune and optimize. In our experience, they often require task-specific modifications, which makes them challenging to use for non-experts. We propose U-Time, a fully feed-forward deep learning approach to physiological time series segmentation developed for the analysis of sleep data. U-Time is a temporal fully convolutional network based on the U-Net architecture that was originally proposed for image segmentation. U-Time maps sequential inputs of arbitrary length to sequences of class labels on a freely chosen temporal scale. This is done by implicitly classifying every individual time-point of the input signal and aggregating these classifications over fixed intervals to form the final predictions. We evaluated U-Time for sleep stage classification on a large collection of sleep electroencephalography (EEG) datasets. In all cases, we found that U-Time reaches or outperforms current state-of-the-art deep learning models while being much more robust in the training process and without requiring architecture or hyperparameter adaptation across tasks.

연구 동기 및 목표

• 생리학적 시간 시퀀스 구간화에 대해 강건하고 비순환적이며 완전한 컨볼루션 접근법의 필요성 동기화.
• 수면 중등 분류를 위해 1D U-Net 스타일 아키텍처(U-Time)를 개발하여 임의의 시간 해상도에서 레이블을 출력할 수 있도록 함.
• 데이터셋 특화 하이퍼파라미터 튜닝 없이 다양한 수면 EEG 데이터셋에서 일반화 평가.
• 완전 컨볼루션 피드포워드 모델이 최첨단 순환 모델과 맞먹거나 능가할 수 있음을 보여줌.
• 임상 및 연구 용도에 대한 견고성 및 속도 이점 시연.

제안 방법

• 시계열 구간화를 위한 1D U-Net 기반의 완전 컨볼루셔널 인코더–디코더 네트워크인 U-Time 제안.
• 수용기로 네 개의 다운샘플링 블록과 디코더 네 개의 업샘플링 블록으로 구성하고 확장된 수용영역을 위해 확장 합성 컨볼루션으로 수용영역을 넓힘.
• 선택된 시간 해상도에서 Dense per-time-point 점수를 최종 세그먼트 레이블로 집계하는 세그먼트 분류기를 포함.
• 클래스 불균형을 다루기 위해 일반화 다이스 손실을 사용하고, 클래스 가중치를 균일하게 설정하며 실시간으로 균형 잡힌 미니배치를 사용.
• Dense 출력을 모아 임의의 세그먼트 빈도 e로 추론 허용(예: 30초 수면 단계의 경우 1/30 Hz).
• 데이터셋 간에 아키텍처와 하이퍼파라미터를 고정하여 견고성 및 교차 도메인 일반화를 테스트.

실험 결과

연구 질문

• RQ1 완전 컨볼루션 피드포워드 모델이 task-specific tuning 없이도 다수의 데이터셋에서 최첨단 수면 분류 성능을 달성할 수 있는가?
• RQ2 다양한 코호트에서 AASM/R&K 관례에 따라 EEG 데이터를 다섯 수면 단계로 분할할 때 U-Time의 성능은 어떠한가?
• RQ3 데이터셋의 가변성(사이트, 채널, 샘플링 속도)에 대해 모델이 견고하고 표준 30초 간격의 분할에서도 신뢰할 수 있는가?
• RQ4 Dense per-time-point 점수와 30초 레이블 간의 해상도 트레이드오프는 U-Time에서 어떤가?
• RQ5 U-Time은 CNN-LSTM 베이스라인 및 공개 방법과의 공정한 피험자별 교차 검증 설정에서 어떻게 비교되는가?

주요 결과

Dataset	Model	Records	CV	W	N1	N2	N3	REM	mean
S-EDF-39	U-Time	39	20	0.87	0.52	0.86	0.84	0.84	0.79
S-EDF-39	CNN-LSTM	1	39	20	0.85	0.47	0.86	0.85	0.82	0.77
S-EDF-39	VGGNet	2	39	20	0.81	0.47	0.85	0.83	0.82	0.76
S-EDF-39	CNN	3	39	20	0.77	0.41	0.87	0.86	0.82	0.75
S-EDF-39	Autoenc.	4	39	20	0.72	0.47	0.85	0.84	0.81	0.74
S-EDF-153	U-Time	153	10	0.92	0.51	0.84	0.75	0.80	0.76
S-EDF-153	CNN-LSTM	153	10	0.91	0.47	0.81	0.69	0.79	0.73
Physio-18	U-Time	994	5	0.83	0.59	0.83	0.79	0.84	0.77
Physio-18	CNN-LSTM	994	5	0.82	0.58	0.83	0.78	0.85	0.77
DCSM	U-Time	255	5	0.97	0.49	0.84	0.83	0.82	0.79
DCSM	CNN-LSTM	255	5	0.96	0.39	0.82	0.80	0.82	0.76
ISRUC	U-Time	99	10	0.87	0.55	0.79	0.87	0.78	0.77
ISRUC	CNN-LSTM	99	10	0.84	0.46	0.70	0.83	0.72	0.71
ISRUC	Human obs.	99	-	0.92	0.54	0.80	0.85	0.90	0.80
CAP	U-Time	101	5	0.78	0.29	0.76	0.80	0.76	0.68
CAP	CNN	104	5	0.77	0.35	0.76	0.78	0.76	0.68
CAP	CNN-LSTM	101	5	0.77	0.28	0.69	0.77	0.75	0.65
SVUH-UCD	U-Time	25	25	0.75	0.51	0.79	0.86	0.73	0.73

• U-Time은 일곱 개의 수면 EEG 데이터셋에서 최첨단 또는 경쟁력 있는 평균 F1 점수를 달성했다.
• U-Time은 대개 CNN–LSTM 베이스라인과 동등하거나 우수한 성능을 보였으며 파라미터 수가 약 120만으로 더 적은 편이고 작업 특화 튜닝이 덜 필요했다.
• 데이터셋 전반에 걸쳐 U-Time은 아키텍처/하이퍼파라미터 선택에 대해 견고함을 보였고 건강한 인구와 질환 군 모두에 잘 일반화되었다.
• Dense per-time-point 점수는 재훈련 없이 표준 30초 수면 단계 레이블로 집계될 수 있다.
• 비교에서 U-Time은 비렘 수면(N1, N2, N3)에서 특히 잘 작동했고 단일 채널 EEG 입력의 Wake 및 REM 성능도 경쟁력 있었다.
• 임상 설정에서 거의 즉시 추론이 가능하도록 전체 밤 스코어링에서도 방법이 빠르다.