[논문 리뷰] A novel convolutional neural network model to remove muscle artifacts from EEG

Haoming Zhang, Wei Chen외 3명|arXiv (Cornell University)|2020. 10. 22.

EEG and Brain-Computer Interfaces참고 문헌 20인용 수 9

한 줄 요약

이 논문은 1D 합성곱 신경망(CNN)을 제안하며, 점진적으로 증가하는 특징 맵과 시간 영역에서의 다운샘플링을 통해 뇌전도도(EEG) 신호에서 근육 아티팩트를 효과적으로 제거한다. 계층적 특징 학습과 평균 풀링을 통해 과적합을 방지함으로써, EEGdenoiseNet 데이터셋에서 네 가지 벤치마크 네트워크를 뛰어넘는 성능을 기록하여, 특히 고노이즈 조건에서 가장 낮은 RRMSE와 가장 높은 상관관계를 달성한다.

ABSTRACT

The recorded electroencephalography (EEG) signals are usually contaminated by many artifacts. In recent years, deep learning models have been used for denoising of electroencephalography (EEG) data and provided comparable performance with that of traditional techniques. However, the performance of the existing networks in electromyograph (EMG) artifact removal was limited and suffered from the over-fitting problem. Here we introduce a novel convolutional neural network (CNN) with gradually ascending feature dimensions and downsampling in time series for removing muscle artifacts in EEG data. Compared with other types of convolutional networks, this model largely eliminates the over-fitting and significantly outperforms four benchmark networks in EEGdenoiseNet. Our study suggested that the deep network architecture might help avoid overfitting and better remove EMG artifacts in EEG.

연구 동기 및 목표

• 기존의 전통적 및 딥러닝 기반 방법들이 여전히 해결하기 어려운 EEG 신호에서의 근육 아티팩트 제거 문제를 해결하기 위해.
• 이전의 CNN 아키텍처에서 관찰된 과적합 및 일반화 능력 부족 문제, 특히 근전도(EMG) 아티팩트에 대해 개선하기 위해.
• 시간 영역에서 점진적으로 증가하는 특징 맵 차원과 다운샘플링을 통해 특징 추출 능력과 일반화 성능을 향상시키는 깊은 CNN 아키텍처를 설계하기 위해.
• EEGdenoiseNet 데이터셋에서 제안된 모델의 성능을 기존의 기준 네트워크와 비교하여, 주로 근성 아티팩트 제거에 초점을 맞춰 평가하기 위해.
• CNN 아키텍처의 혁신이 특히 어려운 EMG 오염 상황에서 EEG 노이즈 제거 성능을 크게 향상시킬 수 있음을 입증하기 위해.

제안 방법

• 1×3 커널을 사용한 1D-합성곱 레이어 블록 7개를 스택하여 구성하며, ReLU 활성화 함수와 1D-평균 풀링(커널 크기 2)을 적용하여 신호를 다운샘플링하고 파rameter 수를 감소시킨다.
• 특징 맵의 수가 블록 간에 기하급수적으로 증가하여 32에서 2048으로 증가함으로써 계층적 특징 학습과 더 나은 표현 능력을 확보한다.
• 최종 블록에는 평탄화 레이어와 1024개의 뉴런을 가진 완전 연결 레이어가 포함되어 입력 EEG 신호의 차원과 일치하여 재구성한다.
• 학습 데이터는 -7 dB에서 2 dB 사이의 임의의 SNR에서 청소된 EEG와 EMG 에포크를 선형 혼합(y = x + λ·n)을 통해 생성되었으며, SNR는 RMS 비율을 기반으로 계산되었다.
• 예측된 신호와 진정된 청소된 EEG 신호 간의 평균 제곱오차(MSE)를 최소화하는 손실 함수를 사용하여 네트워크를 학습시켰다.
• 10개의 교차 검증 폴드를 사용하여 데이터를 분할: 학습용 80%(4478쌍), 검증용 10%(560쌍), 테스트용 10%(560쌍)로 구성되었으며, 각 세트의 데이터는 5600 에포크로 확장되었다.

실험 결과

연구 질문

• RQ1 특징 맵이 점차 증가하고 시간 영역에서 다운샘플링을 적용한 깊은 CNN이 기존의 CNN보다 EEG 신호에서 근육 아티팩트 제거 성능에서 뛰어나게 되는가?
• RQ2 특징 차원을 점진적으로 증가시키고 평균 풀링을 사용하는 아키텍처 설계가 EEG 노이즈 제거에서 과적합을 줄이고 일반화 능력을 향상시키는가?
• RQ3 다양한 신호 대 노이즈 비율(SNR) 조건에서 제안된 모델이 기준 네트워크(FcNN, 단순 CNN, 복잡한 CNN, RNN)와 비교해 노이즈 제거 정확도에서 어떤가?
• RQ4 특히 전통적 방법이 실패하는 고노이즈 조건에서 모델이 뛰어난 성능을 유지하는가?
• RQ5 스펙트럼 겹침이 존재하는 상황에서도 제안된 아키텍처가 신경 신호와 근성 아티팩트를 효과적으로 분리할 수 있는가?

주요 결과

• 제안된 새로운 CNN은 평균 RRMSE_t(0.448)와 RRMSE_f(0.442)가 가장 낮고, 평균 상관계수(CC = 0.863)가 가장 높아, 네 가지 기준 네트워크를 모두 뛰어넘는 성능을 기록했다.
• 고노이즈 및 중간 노이즈 수준(SNR ≤ 0 dB)에서, 모든 세 가지 지표에서 최고 성능를 보였으며, 가장 낮은 RRMSE와 가장 높은 CC를 기록했다.
• 저노이즈 수준(SNR = 2 dB)에서는 FcNN와 RNN이 RRMSE_t와 RRMSE_f에서 약간 더 뛰어난 성능를 보였지만, 제안된 새로운 CNN은 여전히 가장 높은 CC(0.863)를 유지했다.
• 학습 및 테스트 손실 곡선을 통해 새로운 CNN은 가장 낮은 테스트 손실과 학습 손실과 테스트 손실 간의 최소 격차를 보여, 강력한 일반화 능력과 최소한의 과적합을 확인했다.
• 모델의 손실은 에포크가 진행되면서 안정적으로 감소하였으며, 테스트 손실이 최저 수준에 도달함으로써 안정적이고 효과적인 학습이 이루어졌음을 확인했다.
• 특징 맵의 점진적 증가와 평균 풀링을 통한 아키텍처 설계가 과적합 문제를 효과적으로 완화했으며, 이는 이전의 CNN들이 심각한 일반화 문제를 겪었던 것과 대비된다.