[논문 리뷰] Team Cogitat at NeurIPS 2021: Benchmarks for EEG Transfer Learning Competition

Stylianos Bakas, Siegfried Ludwig외 6명|arXiv (Cornell University)|2022. 02. 01.

EEG and Brain-Computer Interfaces인용 수 5

한 줄 요약

이 논문은 통계적 및 딥 세트 기반 특징 정렬을 사용하여 피험자 간 및 세션 간 공변량 이동을 줄이는 딥 러닝 기반 EEG 전이 학습 방법을 제시한다. 특히 입력 표준화 및 학습 가능한 읽기 출력 변환을 통해 여러 층에서 특징 분포를 정렬함으로써 최신 기술 수준의 성능을 달성하였으며, NeurIPS 2021 BEETL 경쟁에서 수면 단계 분류 과제에서 65.55%의 무게 없는 평균 재현율(UAR)과 운동 상상 과제에서 76.33%의 성능을 기록하였다.

ABSTRACT

Building subject-independent deep learning models for EEG decoding faces the challenge of strong covariate-shift across different datasets, subjects and recording sessions. Our approach to address this difficulty is to explicitly align feature distributions at various layers of the deep learning model, using both simple statistical techniques as well as trainable methods with more representational capacity. This follows in a similar vein as covariance-based alignment methods, often used in a Riemannian manifold context. The methodology proposed herein won first place in the 2021 Benchmarks in EEG Transfer Learning (BEETL) competition, hosted at the NeurIPS conference. The first task of the competition consisted of sleep stage classification, which required the transfer of models trained on younger subjects to perform inference on multiple subjects of older age groups without personalized calibration data, requiring subject-independent models. The second task required to transfer models trained on the subjects of one or more source motor imagery datasets to perform inference on two target datasets, providing a small set of personalized calibration data for multiple test subjects.

연구 동기 및 목표

• 다양한 데이터셋, 피험자, 기록 세션 간 강한 공변량 이동 문제를 해결하기 위해.
• 딥 신경망의 여러 층에서 특징 분포를 명시적으로 정렬하여 EEG 전이 학습 성능을 향상시키기 위해.
• 제한된 또는 개인화된 校정 데이터가 없는 상황에서도 잘 작동하는 재현 가능하고 강건한 EEG 전이 학습 프레임워크를 개발하기 위해.
• 수면 단계 분류 및 운동 상상 과제에서 모두 NeurIPS 2021 BEETL 경쟁에서 최고 성능을 달성하기 위해.

제안 방법

• 대부분의 표현력을 유지하면서 과적합을 최소화하기 위해 확장된 컨볼루션, 분리 가능 컨볼루션, 감소된 파라미터를 갖춘 수정된 EEGInception 아키텍처.
• 시험 및 피험자 전역에서의 채널별 평균 및 표준편차를 계산하여 각 층에서의 통계적 특징 정렬을 수행하여 특징 분포를 표준화.
• 시험 전역에서 평균 읽기 출력을 수행하고, 비선형 변환을 통해 차원 감소를 적용하며, 결과를 각 특징 벡터에 연결하여 개선하는 학습 가능한 딥 세트 모듈.
• 원천 데이터 및 校정 데이터를 함께 훈련하면서, 최적화 과정에서 클래스 및 피험자 기여도를 균형 있게 하기 위해 校정 세트를 오버샘플링.
• 특징 추출 이전에 원시 EEG 파wr 분포를 정렬하기 위해 각 피험자별로 시험 전역에서 입력 신호 표준화.
• 10겹 교차 검증을 통해 모델 예측을 앙상블하고 평균 로짓을 사용하여 일반화 및 테스트 성능 향상.

실험 결과

연구 질문

• RQ1 통계적 및 학습 가능한 특징 정렬 방법이 피험자 및 세션 간 EEG 전이 학습에서 공변량 이동을 효과적으로 줄일 수 있는가?
• RQ2 CNN의 여러 층에서 특징 정렬이 피험자 독립적 EEG 해독 과제 성능에 어떤 영향을 미치는가?
• RQ3 입력 수준의 표준화가 다양한 데이터셋에서 훈련된 EEG 모델의 일반화에 어느 정도 기여하는가?
• RQ4 공유된 특징 추출기와 데이터셋 전용 분류기를 갖춘 통합 모델이 최소한의 校정 데이터로 여러 운동 상상 데이터셋에 잘 일반화될 수 있는가?

주요 결과

• 정렬 기반 모델이 없는 베이스라인 모델은 수면 단계 분류 과제에서 56.87%의 무게 없는 평균 재현율(UAR)을 기록하여 공변량 이동으로 인한 향상 여지가 크다는 것을 시사한다.
• 통계적 특징 정렬을 추가함으로써 수면 과제의 교차 검증 UAR는 67.70%로 상승하여 분포 정렬이 강력한 성능 향상을 이끌어낸다는 것을 입증한다.
• 최종 앙상블 모델은 수면 단계 분류 테스트 세트에서 65.55% UAR를 기록하여 실제 운영 환경에서의 정렬 효과를 확인하였다.
• 운동 상상 과제에서는 베이스라인 모델이 교차 검증에서 63.72% UAR를 기록하였고, 통계적 및 딥 세트 정렬을 추가함으로써 72.44%로 향상되었다.
• 최종 모델은 운동 상상 테스트 세트에서 76.33% UAR를 기록하여 경쟁자를 압도하며, 이 방법의 강건성을 입증하였다.
• 입력 수준의 표준화와 후행 층에서의 딥 세트 기반 정밀 조정의 조합은 피험자 독립적 및 개인화된 전이 학습 시나리오 전반에서 일관된 성능 향상을 이끌어냈다.