[論文レビュー] Interpretable and Robust AI in EEG Systems: A Survey

Xinliang Zhou, Chenyu Liu+6 more|arXiv (Cornell University)|Apr 21, 2023

EEG and Brain-Computer Interfaces被引用数 16

ひとこと要約

本論文は、EEGシステムにおける解釈可能で頑健なAI手法の最初の包括的な調査であり、分類法を提案し、手法・データセット・課題・将来の方向性をまとめている。

ABSTRACT

The close coupling of artificial intelligence (AI) and electroencephalography (EEG) has substantially advanced human-computer interaction (HCI) technologies in the AI era. Different from traditional EEG systems, the interpretability and robustness of AI-based EEG systems are becoming particularly crucial. The interpretability clarifies the inner working mechanisms of AI models and thus can gain the trust of users. The robustness reflects the AI's reliability against attacks and perturbations, which is essential for sensitive and fragile EEG signals. Thus the interpretability and robustness of AI in EEG systems have attracted increasing attention, and their research has achieved great progress recently. However, there is still no survey covering recent advances in this field. In this paper, we present the first comprehensive survey and summarize the interpretable and robust AI techniques for EEG systems. Specifically, we first propose a taxonomy of interpretability by characterizing it into three types: backpropagation, perturbation, and inherently interpretable methods. Then we classify the robustness mechanisms into four classes: noise and artifacts, human variability, data acquisition instability, and adversarial attacks. Finally, we identify several critical and unresolved challenges for interpretable and robust AI in EEG systems and further discuss their future directions.

研究の動機と目的

• AI解釈を文脈づけるために、EEG信号のカテゴリー、応用領域、データセットを定義する。
• EEG AIの解釈可能性手法の分類法（逆伝播ベース、摂動ベース、ルールベース）の分類を提案する。
• 頑健性の4クラス分類（ノイズ／アーティファクト、人間のばらつき、データ取得の不安定性、敵対的攻撃）を提案する。
• EEGシステムにおける代表的な解釈可能AI手法と頑健性アプローチの分析・比較。
• 解釈可能で頑健なEEG AI研究の主要な課題を特定し、将来の方向性を論じる。

提案手法

• 解釈可能性手法を3タイプに分類する：逆伝播ベース、摂動ベース、ルールベース。寄与度解釈と論理規則、局所的 vs. グローバルな適用範囲の説明を含む。
• LRP、DeepLIFT、CAM、Grad-CAMなどの逆伝播ベース技法を要約し、式と可視化手法を概説する。
• LIMEやSHAPなどの摂動ベース手法を要約し、局所的代理モデル化アプローチとShapley値に基づく寄与を説明する。
• RF、FIS、ベイズ系を含むルールベース手法を要約し、規則によるグローバルな説明を論じる。
• EEG AIの頑健性について4つの脅威クラスにわたる分類を提供し、共通の特徴と代表的な研究を論じる。

実験結果

リサーチクエスチョン

• RQ1 EEGベースのAIシステムに適用可能な解釈可能性手法の分類は何か？
• RQ2 ノイズ・ばらつき・機器・対敵対的脅威を横断して、AI EEGシステムの頑健性をどのように分類・対処できるか？
• RQ3 解釈可能で頑健なAIをEEGで研究する際の主要なデータセットとEEGパラダイムは何か？
• RQ4 解釈可能性手法はEEG文脈で生理学的に意味のある説明へどのように対応づけられるか？
• RQ5 解釈可能で頑健なEEG AIの主要な課題と将来の方向性は何か？

主な発見

• 本研究は、EEGシステムにおけるAIの解釈可能性と頑健性に特化した最初の包括的な調査である。
• 解釈可能性（逆伝播ベース、摂動ベース、ルールベース）と頑健性（ノイズ/アーティファクト、人的ばらつき、データ取得の不安定性、敵対的攻撃）双方の新しい分類を提案する。
• EEG文脈で代表的な解釈可能性手法（LRP、DeepLIFT、CAM、Grad-CAM、LIME、SHAP）とルールベースアプローチ（RF、FIS、BS）を総合し、比較する。
• 解釈可能性を神経生理学的妥当性と結びつけ、手法が生理学的に意味のある特徴と脳領域の関連性をどのように明らかにするかを強調する。
• 解釈可能で頑健なEEG AIシステムに関する今後の課題と方向性を論じ、継続的な研究を導く。