[논문 리뷰] Towards Sleep Scoring Generalization Through Self-Supervised Meta-Learning

Abdelhak Lemkhenter, Paolo Favaro|arXiv (Cornell University)|2022. 07. 27.

Obstructive Sleep Apnea Research인용 수 5

한 줄 요약

이 논문은 자기지도 학습 메타학습 프레임워크인 S2MAML을 제안하며, 모델에 종속적이지 않은 메타학습(MAML) 파рад림에 자기지도 사전학습을 통합하여 자동 수면 스테이징에서 제로샷 일반화를 향상시킨다. 이 방법은 여러 데이터셋에서 MAML과 지도 학습보다 뚜렷하게 뛰어난 성능을 보이며, 일반적인 가짜 작업을 통해 개인별 패턴에 대한 과적합을 줄임으로써 제로샷 성능을 최고 수준으로 달성한다.

ABSTRACT

In this work we introduce a novel meta-learning method for sleep scoring based on self-supervised learning. Our approach aims at building models for sleep scoring that can generalize across different patients and recording facilities, but do not require a further adaptation step to the target data. Towards this goal, we build our method on top of the Model Agnostic Meta-Learning (MAML) framework by incorporating a self-supervised learning (SSL) stage, and call it S2MAML. We show that S2MAML can significantly outperform MAML. The gain in performance comes from the SSL stage, which we base on a general purpose pseudo-task that limits the overfitting to the subject-specific patterns present in the training dataset. We show that S2MAML outperforms standard supervised learning and MAML on the SC, ST, ISRUC, UCD and CAP datasets.

연구 동기 및 목표

• 새로운 환자와 기록 시설에서 자동 수면 스테이징 모델의 낮은 일반화 능력이라는 핵심 과제를 해결하기 위해.
• 모델을 새로운 데이터에 배포할 때 미세조정이나 추가 애너테이션의 필요 없이 진정한 제로샷 배포를 가능하게 하기 위해.
• 전이 학습 환경에서 성능을 떨어뜨리는 개인별 및 데이터셋별 신호 패턴에 대한 과적합을 줄이기 위해.
• 특정 아키텍처에 국한되지 않고 어떤 백본 모델과도 호환되는 훈련 체계를 개발하기 위해.
• 메타학습 내 자기지도 사전학습이 수면 스테이징에서 강건성과 일반화 능력을 향상시킨다는 것을 입증하기 위해.

제안 방법

• 자기지도 학습(SSL)을 MAML 프레임워크에 통합하여 S2MAML(자기지도 메타학습)이라는 새로운 방법을 개발한다.
• 내부 루프에서 MAML의 일반적인 가짜 작업인 PhaseSwap을 사용하여 레이블이 없는 데이터에서 사전학습을 수행함으로써 개인별 특징에 대한 과적합을 줄인다.
• SSL 사전학습과 지도 학습 미세조정을 결합한 메타손실을 적용하며, 두 항목을 균형 조절하기 위해 하이퍼파rameter λin을 사용한다.
• 다양한 데이터셋에서 훈련하여 메타최적화를 통해 새로운 환자와 데이터셋에 잘 일반화되는 초기화 파rameter를 학습한다.
• 표준 수면 스테이징 백본(DeepSleepNet-Lite)을 사용하고, S2MAML을 그의 특징 추출기 부분에 적용하여 일반화 능력을 향상시킨다.
• 5개의 공개 데이터셋(ISRUC, SC, ST, CAP, UCD)에서 교차검증을 수행하여 새로운 환자와 데이터셋에서의 제로샷 성능을 평가한다.

실험 결과

연구 질문

• RQ1 자기지도 학습은 새로운 환자와 데이터셋에서 메타학습된 수면 스테이징 모델의 제로샷 일반화 능력을 향상시킬 수 있는가?
• RQ2 MAML의 내부 루프에 일반적인 가짜 작업을 통합함으로써 개인별 신호 패턴에 대한 과적합이 감소하는가?
• RQ3 S2MAML은 새로운 데이터에서 표준 지도 학습 및 MAML에 비해 성능 면에서 어떻게 비교되는가?
• RQ4 제안된 방법은 특히 내부 루프에서 SSL과 지도 학습 간 균형을 조절하는 λin에 대해 강건한가?
• RQ5 S2MAML은 추가 적응이나 애너테이션 없이 제로샷 수면 스테이징에서 최고 수준의 성능을 달성할 수 있는가?

주요 결과

• 3 vs 5 교차검증 설정에서, S2MAML은 모든 데이터셋에서 새로운 환자에 대해 평균 F1 스코어 65.9%를 기록하며, MAML(27.2%)과 지도 학습(29.4%)을 뛰어넘었다.
• 새로운 데이터셋에서 S2MAML은 CAP에서 60.0%, ST에서 70.2%, ISRUC에서 67.4%의 F1 스코어를 기록하여 MAML 및 지도 학습 기반선보다 뚜렷하게 뛰어난 성능을 보였다.
• λin = 10^-3일 경우 MAML의 성능은 급격히 떨어져 새로운 환자에서 13.2%로 떨어졌지만, S2MAML는 λin 값에 관계없이 안정적인 성능을 유지하여 더 높은 강건성을 보였다.
• S2MAML는 기존 환자(71.0% 평균 F1)와 새로운 환자(65.9% 평균 F1) 모두에서 높은 성능를 유지하여 내부 환자 및 데이터셋 간 변동에 대한 강력한 일반화 능력을 보였다.
• 내부 루프에서 PhaseSwap을 자기지도 작업으로 사용함으로써 개인별 특징에 대한 과적합이 감소했으며, 이는 새로운 데이터에서의 성능 향상으로 입증되었다.
• S2MAML는 평가된 모든 데이터셋에서 제로샷 성능 최고 수준을 달성하여, 추가 적응 없이도 실제 배포 환경에서의 효과성을 입증했다.