[논문 리뷰] Interpretable and Robust AI in EEG Systems: A Survey

Xinliang Zhou, Chenyu Liu외 6명|arXiv (Cornell University)|2023. 04. 21.

EEG and Brain-Computer Interfaces인용 수 16

한 줄 요약

이 논문은 EEG 시스템을 위한 해석 가능하고 강건한 AI 기술에 대한 최초의 포괄적 고찰로, 분류 체계를 제안하고 방법, 데이터셋, 도전과제 및 향후 방향을 요약한다.

ABSTRACT

The close coupling of artificial intelligence (AI) and electroencephalography (EEG) has substantially advanced human-computer interaction (HCI) technologies in the AI era. Different from traditional EEG systems, the interpretability and robustness of AI-based EEG systems are becoming particularly crucial. The interpretability clarifies the inner working mechanisms of AI models and thus can gain the trust of users. The robustness reflects the AI's reliability against attacks and perturbations, which is essential for sensitive and fragile EEG signals. Thus the interpretability and robustness of AI in EEG systems have attracted increasing attention, and their research has achieved great progress recently. However, there is still no survey covering recent advances in this field. In this paper, we present the first comprehensive survey and summarize the interpretable and robust AI techniques for EEG systems. Specifically, we first propose a taxonomy of interpretability by characterizing it into three types: backpropagation, perturbation, and inherently interpretable methods. Then we classify the robustness mechanisms into four classes: noise and artifacts, human variability, data acquisition instability, and adversarial attacks. Finally, we identify several critical and unresolved challenges for interpretable and robust AI in EEG systems and further discuss their future directions.

연구 동기 및 목표

• AI 해석을 맥락화하기 위한 EEG 신호 범주, 응용 분야 및 데이터셋 정의.
• EEG AI를 위한 해석가능성 방법의 분류 체계 제안(역전파 기반, 섭동 기반, 규칙 기반).
• 강건성에 대한 네 분류 체계 제안(노이즈/아티팩트, 인간 가변성, 데이터 획득 불안정성, 적대적 공격).
• EEG 시스템에서 대표적인 해석가능 AI 방법 및 강건성 접근법 분석 및 비교.
• 해석가능하고 강건한 EEG AI 연구의 주요 도전과제 및 향후 방향 논의.

제안 방법

• 역전파 기반, 섭동 기반, 규칙 기반의 세 가지 유형으로 해석가능성 방법 분류, 속성화(attribution)와 로직 규칙, 로컬 대 글로벌 범위의 설명 차이 설명.
• LRP, DeepLIFT, CAM, Grad-CAM 등의 역전파 기반 기법을 요약하고 그들의 방정식과 시각화 방법을 개요.
• LIME 및 SHAP 같은 섭동 기반 기법 요약 및 로컬 대리 모델링 접근법과 Shapley 기반 기여도 설명.
• RF, FIS, BS를 포함한 규칙 기반 방법 요약 및 규칙을 통한 글로벌 설명 논의.
• EEG AI에서 네 가지 위협 클래스로 강건성에 대한 분류 체계를 제공하고 공통 특징 및 대표적인 연구를 논의.

실험 결과

연구 질문

• RQ1 EEG 기반 AI 시스템에 적용 가능한 해석가능성 기법의 범주는 무엇인가?
• RQ2 노이즈, 가변성, 장치 및 적대적 위협에 걸쳐 EEG AI 시스템의 강건성은 어떻게 분류하고 해결될 수 있는가?
• RQ3 해석가능하고 강건한 EEG를 연구하는 데 사용되는 주요 데이터셋과 EEG 패러다임은 무엇인가?
• RQ4 해석가능성 방법은 EEG 맥락에서 생리학적으로 의미 있는 설명으로 어떻게 매핑되는가?
• RQ5 해석가능하고 강건한 EEG AI의 주요 도전과제와 향후 방향은 무엇인가?

주요 결과

• 본 연구는 EEG 시스템에서 AI의 해석가능성 및 강건성에 초점을 맞춘 최초의 포괄적 고찰이다.
• 해석가능성(역전파 기반, 섭동 기반, 규칙 기반)과 강건성(노이즈/아티팩트, 인간 가변성, 데이터 수집 불안정성, 적대적 공격)에 대한 새로운 분류 체계를 제안한다.
• EEG 맥락에서 대표적인 해석가능 방법(LRP, DeepLIFT, CAM, Grad-CAM, LIME, SHAP) 및 규칙 기반 접근(RF, FIS, BS)을 종합하고 비교한다.
• 해석가능성을 신경생리학적 가능성과 연계하여 방법들이 생리학적으로 의미 있는 특징 및 뇌 영역의 관련성을 어떻게 드러내는지 강조한다.
• 해석가능하고 강건한 EEG AI 시스템 연구를 지속적으로 안내하기 위한 열려 있는 과제와 향후 방향을 논의한다.