[논문 리뷰] Depression Diagnosis and Drug Response Prediction via Recurrent Neural Networks and Transformers Utilizing EEG Signals

Abdolkarim Saeedi, Arash Maghsoudi외 1명|arXiv (Cornell University)|2023. 03. 09.

EEG and Brain-Computer InterfacesNeuroscience인용 수 3

한 줄 요약

이 연구는 뇌파 신호를 활용하여 중증 우울 장애(MDD)를 진단하고 약물 치료에 대한 개인별 반응을 예측하는 트랜스포머 기반 딥러닝 모델을 제안한다. 이 방법은 MDD 분류에서 97.14%의 정확도와 99.41%의 재현율을 달성하였으며, 약물 반응자와 비반응자를 구분하는 데서는 97.01%의 정확도와 97.76%의 재현율을 기록하여, 파라미터 수가 적은 편임에도 불구하고 CNN, LSTM, CNN-LSTM 기준선 모델들을 능가한다.

ABSTRACT

The Early diagnosis and treatment of depression is essential for effective treatment. Depression, while being one of the most common mental illnesses, is still poorly understood in both research and clinical practice. Among different treatments, drug prescription is widely used, however the drug treatment is not effective for many patients. In this work, we propose a method for major depressive disorder (MDD) diagnosis as well as a method for predicting the drug response in patient with MDD using EEG signals. Method: We employ transformers, which are modified recursive neural networks with novel architecture to evaluate the time dependency of time series effectively. We also compare the model to the well-known deep learning schemes such as CNN, LSTM and CNN-LSTM. Results: The transformer achieves an average recall of 99.41% and accuracy of 97.14% for classifying normal and MDD subjects. Furthermore, the transformer also performed well in classifying responders and non-responders to the drug, resulting in 97.01% accuracy and 97.76% Recall. Conclusion: Outperforming other methods on a similar number of parameters, the suggested technique, as a screening tool, seems to have the potential to assist health care professionals in assessing MDD patients for early diagnosis and treatment. Significance: Analyzing EEG signal analysis using transformers, which have replaced the recursive models as a new structure to examine the time dependence of time series, is the main novelty of this research.

연구 동기 및 목표

• 뇌파 신호를 활용하여 조기 진단이 가능한 신뢰할 수 있고 비침습적인 방법을 개발하기 위해.
• 뇌파 기반 기계학습을 통해 우울증 약물 치료에 대한 개인별 반응을 예측하기 위해.
• 기존의 딥러닝 모델(CNN, LSTM, CNN-LSTM)과 비교하여 트랜스포머 아키텍처의 성능을 평가하기 위해 EEG 기반 MDD 및 약물 반응 분류 과제에서의 성능을 분석하기 위해.
• 진단 정확도 향상과 치료 개인화를 통해 정신건강 분야의 임상 의사결정 지원을 가능하게 하는 걸러내기 도구를 구축하기 위해.

제안 방법

• 연구는 뇌파 시계열 데이터의 시간적 의존성을 효과적으로 모델링할 수 있도록 설계된 수정된 트랜스포머 아키텍처를 활용한다.
• 모델은 다중 헤드 자기주의 메커니즘을 통해 원시 또는 사전 처리된 뇌파 신호를 처리하여 장거리 및 복잡한 시간 패턴을 포착한다.
• 아키텍처는 건강한 대조군과 MDD 환자로부터의 뇌파 데이터를 엔드 투 엔드로 훈련하며, MDD 진단과 약물 반응 분류를 위한 별도의 헤드를 포함한다.
• 성능 평가에서는 동일한 데이터 분할과 평가 지표를 사용하여 기존의 모델(CNN, LSTM, CNN-LSTM)과 비교한다.
• 모델 결정을 해석하기 위해 주의 힘(attention weights)을 활용하여 임상적 해석 가능성을 향상시킨다.
• 표준 딥러닝 손실 함수(예: 교차 엔트로피)와 훈련 프로토콜을 사용하여 모델을 최적화한다.

실험 결과

연구 질문

• RQ1 기존의 RNN과 CNN과 비교하여, 트랜스포머 기반 모델이 뇌파 신호를 활용해 MDD 환자와 건강한 대조군을 분류하는 데서 뛰어난 성능을 달성할 수 있는가?
• RQ2 동일한 뇌파 기반 모델이 MDD 환자가 약물 치료에 긍정적으로 반응할지 정확하게 예측할 수 있는가?
• RQ3 트랜스포머의 주의 메커니즘이 MDD 및 약물 반응 예측을 위한 관련 있는 뇌파 패턴을 식별하는 데 어떻게 기여하는가?
• RQ4 기존의 딥러닝 아키텍처에 비해 파라미터 수가 적은 트랜스포머 모델이 높은 성능을 유지할 수 있는가?

주요 결과

• 트랜스포머 모델은 뇌파 신호를 활용하여 MDD 환자와 건강한 대조군을 구분하는 데 97.14%의 정확도와 99.41%의 재현율을 달성하였다.
• 약물 반응 예측 과제에서는 약물 반응자와 비반응자를 분류하는 데 97.01%의 정확도와 97.76%의 재현율을 기록하였다.
• 유사한 파라미터 수를 사용함에도 불구하고, 트랜스포머 모델은 진단 및 반응 예측 과제에서 CNN, LSTM, CNN-LSTM 모델들을 모두 능가하는 성능을 보였다.
• 주의 메커니즘이 임상적으로 관련 있는 뇌파 패턴에 집중함으로써 모델의 성능 향상과 함께 설명 가능성을 향상시켰다.
• 결과는 트랜스포머가 조기 MDD 진단과 개인 맞춤형 치료 기획을 위한 걸러내기 도구로서의 잠재력을 보여준다.