[논문 리뷰] Self-supervised Learning for Electroencephalogram: A Systematic Survey

Weining Weng, Yang Gu외 5명|arXiv (Cornell University)|2024. 01. 09.

EEG and Brain-Computer Interfaces인용 수 5

한 줄 요약

EEG 분석에 적용된 자기지도 학습(SSL)에 대한 체계적 고찰로, 분류 체계, 방법론, 다운스트림 작업, 데이터셋 및 향후 방향을 제시한다.

ABSTRACT

Electroencephalogram (EEG) is a non-invasive technique to record bioelectrical signals. Integrating supervised deep learning techniques with EEG signals has recently facilitated automatic analysis across diverse EEG-based tasks. However, the label issues of EEG signals have constrained the development of EEG-based deep models. Obtaining EEG annotations is difficult that requires domain experts to guide collection and labeling, and the variability of EEG signals among different subjects causes significant label shifts. To solve the above challenges, self-supervised learning (SSL) has been proposed to extract representations from unlabeled samples through well-designed pretext tasks. This paper concentrates on integrating SSL frameworks with temporal EEG signals to achieve efficient representation and proposes a systematic review of the SSL for EEG signals. In this paper, 1) we introduce the concept and theory of self-supervised learning and typical SSL frameworks. 2) We provide a comprehensive review of SSL for EEG analysis, including taxonomy, methodology, and technique details of the existing EEG-based SSL frameworks, and discuss the difference between these methods. 3) We investigate the adaptation of the SSL approach to various downstream tasks, including the task description and related benchmark datasets. 4) Finally, we discuss the potential directions for future SSL-EEG research.

연구 동기 및 목표

• 레이블 부족과 피험자 간 가변성 문제를 해결하기 위해 SSL을 활용하여 EEG 분석의 동기를 부여한다.
• EEG 기반 SSL 프레임워크에 대한 포괄적 분류 체계와 방법론적 개요를 제공한다.
• SSL이 다양한 EEG 다운스트림 작업에 전이 가능한 표현을 어떻게 가능하게 하는지 분석한다.
• SSL-EEG 연구를 위한 데이터셋, 평가 벤치마크 및 향후 방향을 식별한다.

제안 방법

• EEG 맥락에서 SSL의 기초와 인코더/디코더를 설명한다.
• EEG SSL 방법을 predictive, generative, contrastive, 및 hybrid 범주로 분류한다.
• EEG SSL에 사용되는 공간적, 시간적 및 변환 기반의 프리텍스트 태스크를 자세히 설명한다.
• 사전학습 및 다운스트림 미세조정 단계와 학습 모드를 설명한다.
• SSL 목표와 손실 함수의 수학적 공식화를 개요한다.
• EEG SSL 프레임워크와 그들의 태스크 적응에 대한 구조화된 검토를 제시한다.

실험 결과

연구 질문

• RQ1 레이블 없이 EEG 표현을 학습하는 데 가장 효과적인 SSL 전략은 무엇인가?
• RQ2 EEG 분석을 위한 SSL 프레임워크를 어떻게 분류할 수 있으며 각 범주의 트레이드오프는 무엇인가?
• RQ3 SSL로 도출된 표현이 어떤 다운스트림 EEG 작업에 이점을 주며, 이를 보여 주는 데이터셋은 무엇인가?
• RQ4 EEG에서의 SSL에 대한 향후 방향과 도전과제는 무엇인가?
• RQ5 프리텍스트 태스크가 EEG 신호의 특성(시간적, 공간적, 주파수 도메인)과 어떻게 일치하는가?

주요 결과

• SSL 방법은 emotion recognition, epilepsy detection, 및 sleep staging과 같은 작업에서 라벨이 없는 데이터로도 의미 있는 EEG 표현을 학습할 수 있다.
• EEG SSL은 predictive, generative, contrastive, 및 hybrid 접근법으로 분류되며, 각각 고유한 pretext 태스크와 손실을 가진다.
• 공간적, 시간적, 및 변환 기반의 프리텍스트 태스크는 EEG 신호의 서로 다른 측면을 포착하고 다운스트림 성능을 향상시킨다.
• 시간적 및 채널별 증강과 InfoNCE와 같은 contrastive 손실이 견고한 EEG 표현 학습에 효과적이다.
• 체계적 분류 체계와 벤치마크 지향의 논의가 향후 SSL-EEG 연구 및 데이터셋 고려사항을 안내한다.