[论文解读] Interpretable and Robust AI in EEG Systems: A Survey

Xinliang Zhou, Chenyu Liu+6 more|arXiv (Cornell University)|Apr 21, 2023

EEG and Brain-Computer Interfaces被引用 16

一句话总结

本文是对脑电图（EEG）系统中可解释性和鲁棒性人工智能技术的首个全面综述，提出分类法并总结方法、数据集、挑战与未来方向。

ABSTRACT

The close coupling of artificial intelligence (AI) and electroencephalography (EEG) has substantially advanced human-computer interaction (HCI) technologies in the AI era. Different from traditional EEG systems, the interpretability and robustness of AI-based EEG systems are becoming particularly crucial. The interpretability clarifies the inner working mechanisms of AI models and thus can gain the trust of users. The robustness reflects the AI's reliability against attacks and perturbations, which is essential for sensitive and fragile EEG signals. Thus the interpretability and robustness of AI in EEG systems have attracted increasing attention, and their research has achieved great progress recently. However, there is still no survey covering recent advances in this field. In this paper, we present the first comprehensive survey and summarize the interpretable and robust AI techniques for EEG systems. Specifically, we first propose a taxonomy of interpretability by characterizing it into three types: backpropagation, perturbation, and inherently interpretable methods. Then we classify the robustness mechanisms into four classes: noise and artifacts, human variability, data acquisition instability, and adversarial attacks. Finally, we identify several critical and unresolved challenges for interpretable and robust AI in EEG systems and further discuss their future directions.

研究动机与目标

• 界定EEG信号类别、应用与数据集，以为AI解释提供背景。
• 提出EEG AI可解释性方法的分类法（基于反向传播、基于扰动、基于规则）。
• 提出鲁棒性的四类分类法（噪声/伪迹、人体变异性、数据采集不稳定、对抗性攻击）。
• 分析并比较EEG系统中具有代表性的可解释性AI方法和鲁棒性方法。
• 识别关键挑战并讨论可解释和鲁棒EEG AI研究的未来方向。

提出的方法

• 将可解释性方法分为三类：基于反向传播、基于扰动和基于规则，并解释归因与逻辑规则，以及局部与全局范围。
• 总结基于反向传播的技术，如LRP、DeepLIFT、CAM、Grad-CAM，并概述它们的方程和可视化方法。
• 总结基于扰动的技术，如LIME和SHAP，并描述它们的局部代理建模方法与Shapley贡献。
• 总结基于规则的方法，包括随机森林（RF）、模糊推理系统（FIS）和贝叶斯系统，并讨论它们通过规则给出的全局解释。
• 提供覆盖四类威胁的EEG AI鲁棒性分类法，并讨论共同特征及代表性工作。

实验结果

研究问题

• RQ1 适用于基于EEG的AI系统的可解释性技术有哪些分类？
• RQ2 AI EEG系统的鲁棒性如何在噪声、变异性、设备与对抗威胁等方面进行分类并应对？
• RQ3 用于研究EEG中可解释性和鲁棒性的主要数据集和EEG范式有哪些？
• RQ4 可解释性方法如何映射到EEG情境中的生理学意义解释？
• RQ5 在可解释和鲁棒EEG AI方面的关键挑战与未来方向是什么？

主要发现

• 本研究是首个专门聚焦于EEG系统中AI的可解释性与鲁棒性的全面综述。
• 它提出了可解释性（基于反向传播、基于扰动、基于规则）与鲁棒性（噪声/伪迹、人体变异性、数据采集不稳定、对抗性攻击）的新分类。
• 它综合并比较在EEG情境中的代表性可解释性方法（LRP、DeepLIFT、CAM、Grad-CAM、LIME、SHAP）和基于规则的方法（RF、FIS、BS）。
• 它将可解释性与神经生理学的可行性联系起来，强调方法如何揭示生理意义的特征和脑区相关性。
• 它讨论了未解决的挑战和未来方向，以引导正在进行的可解释和鲁棒EEG AI系统研究。