[논문 리뷰] MAEEG: Masked Auto-encoder for EEG Representation Learning

Hsiang-Yun Sherry Chien, Hanlin Goh외 2명|arXiv (Cornell University)|2022. 10. 27.

EEG and Brain-Computer Interfaces인용 수 15

한 줄 요약

MAEEG는 변환기 기반 아키텍처를 사용하여 마스킹된 EEG 특징을 재구성함으로써 EEG 표현 학습을 위한 마스킹 오토에인커이다. 라벨이 부족한 소량의 샘플로 미세조정할 경우 수면 단계 분류 정확도가 약 5% 향상된다. 이는 사전 훈련 중 더 높은 마스킹 비율과 더 높은 집중도(더 긴) 마스킹 세그먼트가 더 나은 최종 성능을 낳음을 보여준다.

ABSTRACT

Decoding information from bio-signals such as EEG, using machine learning has been a challenge due to the small data-sets and difficulty to obtain labels. We propose a reconstruction-based self-supervised learning model, the masked auto-encoder for EEG (MAEEG), for learning EEG representations by learning to reconstruct the masked EEG features using a transformer architecture. We found that MAEEG can learn representations that significantly improve sleep stage classification (~5% accuracy increase) when only a small number of labels are given. We also found that input sample lengths and different ways of masking during reconstruction-based SSL pretraining have a huge effect on downstream model performance. Specifically, learning to reconstruct a larger proportion and more concentrated masked signal results in better performance on sleep classification. Our findings provide insight into how reconstruction-based SSL could help representation learning for EEG.

연구 동기 및 목표

• 대규모 라벨된 데이터셋에 의존도를 줄이는 EEG 표현 학습을 위한 자기지도 학습 방법을 개발하는 것.
• 재구성 기반 자기지도 학습(SSL)이 제한된 라벨 데이터로 하류 EEG 분류 작업을 어떻게 향상시킬 수 있는지 조사하는 것.
• 마스킹 전략(예: 마스킹 비율, 마스킹 집중도, 마스킹 스펜)이 EEG에 대한 SSL 성능에 미치는 영향을 평가하는 것.
• BENDR와 같은 기존 SSL 모델과 비교하여 MAEEG의 표현 품질과 하류 작업 성능을 평가하는 것.

제안 방법

• MAEEG는 두 단계 아키텍처를 사용한다: 6채널의 원시 EEG 신호를 잠재 특징으로 변환하는 컨볼루션 인코더와, 이 특징의 마스킹된 부분을 재구성하는 트랜스포머 기반 디코더로 구성된다.
• 사전 훈련 중에 잠재 특징 토큰의 25%, 50%, 또는 75%를 무작위로 마스킹함으로써 마스킹 오토에인킹을 적용한다.
• 마스킹은 잠재 공간에 적용되며, 마스킹 집중도의 영향을 연구하기 위해 다수의 짧은 조각 또는 하나의 긴 연속 마스킹을 선택할 수 있다.
• 모델은 원본과 재구성된 잠재 특징 간의 차이를 최소화하는 재구성 손실을 사용하여 사전 훈련된다.
• 사전 훈련 후, 인코더는 소량의 라벨된 샘플을 사용하여 하류 수면 단계 분류 작업에 대해 미세조정된다.
• 이 방법은 2018년 PhysioNet 챌린지 EEG 데이터셋에서 평가되었으며, 성능은 5개 수면 단계에 대한 분류 정확도로 측정되었다.

실험 결과

연구 질문

• RQ1 재구성 기반 자기지도 학습이 제한된 라벨 데이터로 수면 단계 분류를 위한 EEG 표현 학습을 향상시키는가?
• RQ2 마스킹 비율(25%, 50%, 75%)이 MAEEG에서 학습된 표현 품질에 어떤 영향을 미치는가?
• RQ3 마스킹 영역의 공간 집중도(예: 단일 긴 마스킹 vs. 다수의 짧은 마스킹)가 하류 성능에 영향을 미치는가?
• RQ4 마스킹 스펜의 길이가 표현 품질과 하류 작업 정확도에 어떤 영향을 미치는가?
• RQ5 낮은 라벨 환경에서 기존 SSL 모델인 BENDR과 비교해 MAEEG가 하류 수면 단계 분류 성능에서 뛰어나지 않는가?

주요 결과

• MAEEG 사전 훈련은 라벨 데이터의 약 0.1% (약 4시간)로만 미세조정했을 때 수면 단계 분류 정확도를 약 5% 향상시켰다.
• 75% 마스킹 비율로 사전 훈련한 모델가 50% 또는 25% 마스킹 비율로 사전 훈련한 모델보다 성능이 뛰어나, 더 높은 마스킹 비율이 더 나은 표현을 낳는다는 것을 시사한다.
• 단일의 긴 연속 마스킹(즉, 집중된 마스킹)은 다수의 짧고 분리된 마스킹보다 더 나은 하류 성능을 보였다.
• 짧은 스펜보다 더 긴 마스킹 스펜을 사용해 사전 훈련한 경우, 특히 라벨이 부족할 때 하류 분류 정확도가 일관되게 향상되었다.
• MAEEG 사전 훈련의 성능 향상 효과는 다양한 하류 데이터 분할에 걸쳐 일관되었으며, 피험자 변동성과 라벨 불균형에 대해 강건하였다.
• 결과는 모델이 더 큰, 연속적인 세그먼트를 재구성하도록 강제함으로써 시간적 및 주파수적 관계를 더 의미 있게 학습할 수 있음을 시사한다.