[논문 리뷰] Data Augmentation for Seizure Prediction with Generative Diffusion Model

Kai Shu, Wu Le외 4명|arXiv (Cornell University)|2023. 06. 14.

EEG and Brain-Computer Interfaces인용 수 4

한 줄 요약

이 논문은 생성 확산 모델을 사용하여 다양한 고품질 다중채널 뇌파 신호를 합성함으로써 간질 발작 예측를 위한 새로운 데이터 증강 방법인 DiffEEG를 제안한다. 노이즈 제거 과정을 통해 기저 데이터 분포를 학습함으로써 DiffEEG는 개선된 다양성과 일반화 능력을 갖춘 전발작 상태 샘플을 생성하여, 벤치마크 데이터셋에서 여러 딥러닝 분류기의 성능을 크게 향상시키며, CHB-MIT 데이터셋에서 95.4%의 민감도와 0.932 AUC를 기록하여 최신 기술 수준에 도달한다.

ABSTRACT

Data augmentation (DA) can significantly strengthen the electroencephalogram (EEG)-based seizure prediction methods. However, existing DA approaches are just the linear transformations of original data and cannot explore the feature space to increase diversity effectively. Therefore, we propose a novel diffusion-based DA method called DiffEEG. DiffEEG can fully explore data distribution and generate samples with high diversity, offering extra information to classifiers. It involves two processes: the diffusion process and the denoised process. In the diffusion process, the model incrementally adds noise with different scales to EEG input and converts it into random noise. In this way, the representation of data can be learned. In the denoised process, the model utilizes learned knowledge to sample synthetic data from random noise input by gradually removing noise. The randomness of input noise and the precise representation enable the synthetic samples to possess diversity while ensuring the consistency of feature space. We compared DiffEEG with original, down-sampling, sliding windows and recombination methods, and integrated them into five representative classifiers. The experiments demonstrate the effectiveness and generality of our method. With the contribution of DiffEEG, the Multi-scale CNN achieves state-of-the-art performance, with an average sensitivity, FPR, AUC of 95.4%, 0.051/h, 0.932 on the CHB-MIT database and 93.6%, 0.121/h, 0.822 on the Kaggle database.

연구 동기 및 목표

• 간질 발작 예측에서 전발작 상태와 간격 상태 사이의 심각한 클래스 불균형 문제를 해결하여 분류기 성능을 향상시키기 위해.
• 기존 데이터 증강 기법(슬라이딩 윈도우, 재조합 등)의 한계를 극복하기 위해, 기존 데이터 분포에 의존함으로써 반복적이고 저다양성인 샘플을 생성하는 문제를 해결하기 위해.
• 다중 채널에서의 복잡한 시간적 및 공간적 패턴을 포착하는 고품질의 다양한 합성 뇌파 데이터를 생성하는 데에 생성 확산 모델의 잠재력을 탐색하기 위해.
• 다양한 딥러닝 아키텍처(MLP, CNN, Transformer)와 실제 데이터셋(CHB-MIT, Kaggle)을 대상으로 제안된 방법의 효과성과 일반화 능력을 평가하기 위해.
• 확산 기반 데이터 증강을 활용한 뇌파 기반 간질 발작 예측에 대해 새로운 최신 기술 수준의 기준을 설정하기 위해.

제안 방법

• 이 방법은 실제 뇌파 샘플에 노이즈를 점진적으로 추가하는 전방 과정을 거치며, 이를 역방향으로 복원하는 것을 학습함으로써 합성 데이터를 생성하는 노이즈 제거 확산 확률 모델(DDPM)을 활용한다.
• 모델은 각 확산 단계에서 추가된 실제 노이즈와 예측된 노이즈 간의 재구성 손실을 최소화하도록 훈련되어 진짜 데이터 분포를 학습할 수 있다.
• 추론 단계에서는 표준 정규 분포에서 시작하여 무작위 노이즈를 점진적으로 노이즈 제거함으로써 새로운 전발작 유사 뇌파 샘플을 생성한다.
• 아키텍처는 30초 길이의 전체 다중채널 뇌파 신호(18채널)를 직접 생성하도록 설계되어 채널 간 상관관계와 시간적 동역학을 유지한다.
• 생성된 합성 데이터는 소수의 전발작 클래스를 증강하는 데 사용되어 수동적인 특징 공학 없이도 훈련 데이터의 균형을 향상시킨다.
• 모든 평가를 위해 세 가지 딥러닝 백본(MLP, CNN, Transformer)에 통합된 방법을 적용하였다.

실험 결과

연구 질문

• RQ1 기존 데이터 증강 기법(슬라이딩 윈도우, 재조합 등)과 비교해 확산 모델이 더 다양하고 대표적인 전발작 뇌파 샘플을 생성할 수 있는가?
• RQ2 확산 모델이 생성한 합성 데이터를 사용하면 다양한 딥러닝 아키텍처에서 간질 발작 예측 성능이 향상되는가?
• RQ3 실제 뇌파 데이터셋에서 민감도, 가짜 양성률, AUC 측면에서 제안된 DiffEEG 방법이 기존 데이터 증강 전략과 비교해 어떻게 성능을 내는가?
• RQ4 다양한 간질 뇌파 패턴의 변동성에도 불구하고, 생성된 합성 뇌파 데이터가 새로운 발작과 새로운 환자에게 일반화 가능한가?
• RQ5 특히 모드 붕괴를 방지하고 샘플의 다양성을 보장하는 데서 GAN에 비해 확산 모델이 더 안정적이고 효과적인 생성 방법인가?

주요 결과

• DiffEEG는 모든 세 가지 딥러닝 백본(MLP, CNN, Transformer)에서 기존 데이터 증강 기법(다운샘플링, 슬라이딩 윈도우, 재조합)보다 뚜렷이 뛰어난 성능을 보였다.
• CHB-MIT 데이터셋에서 DiffEEG와 다중스케일 CNN 조합은 민감도 95.4%, 가짜 양성률 0.05/h, AUC 0.932를 기록하여 최신 기술 수준의 성능을 달성했다.
• Kaggle 데이터셋에서는 동일한 설정에서 민감도 93.6%, 가짜 양성률 0.12/h, AUC 0.822를 기록하여 다시 한번 최신 기술 수준에 도달했다.
• 생성된 합성 뇌파 샘플은 시각적으로 타당하며, 정성적 검토와 정량적 평가를 통해 의미 있는 시간적 및 공간적 패턴을 포함하고 있었다.
• 확산 모델은 GAN과 달리 모드 붕괴와 훈련 불안정성의 위험이 적은 안정적인 훈련을 보였으며, 일관된 손실 감소를 보였다.
• 이 방법은 다양한 네트워크 아키텍처에서 성능 향상을 이끌어내어, 간질 발작 예측 파이프라인에 대한 강력한 일반화 능력과 넓은 적용 가능성을 입증했다.