[論文レビュー] Deep Learning with ConvNET Predicts Imagery Tasks Through EEG

Apdullah Yayık, Yakup Kutlu+1 more|arXiv (Cornell University)|Jan 1, 2019

EEG and Brain-Computer Interfaces参考文献 17被引用数 3

ひとこと要約

本研究では、適応的最適化（Adam）、バッチ正則化、ドロップアウトを活用して、生EEGデータから直接想像される左手および右手の運動を予測する、被験者に依存しない深層畳み込みニューラルネットワーク（ConvNet）モデルを提案する。このアプローチは、79.16%の正確性を達成し、手作業で特徴を抽出したスペクトル特徴に基づく従来の全結合ネットワークを上回る性能を示した。

ABSTRACT

Deep learning with convolutional neural networks (ConvNets) have dramatically improved learning capabilities of computer vision applications just through considering raw data without any prior feature extraction. Nowadays, there is rising curiosity in interpreting and analyzing electroencephalography (EEG) dynamics with ConvNets. Our study focused on ConvNets of different structures, constructed for predicting imagined left and right movements on a subject-independent basis through raw EEG data. Results showed that recently advanced methods in machine learning field, i.e. adaptive moments and batch normalization together with dropout strategy, improved ConvNets predicting ability, outperforming that of conventional fully-connected neural networks with widely-used spectral features.

研究の動機と目的

• 生EEGデータを用いて、事前の特徴工学を必要とせずに、被験者に依存しない深層学習モデルを構築すること。
• 特にAdam最適化、バッチ正則化、ドロップアウトといった現代的な深層学習技術が、EEGに基づく運動想起分類に与える影響を評価すること。
• 手作業で抽出したスペクトル特徴（例：Welch周期トグラム）を用いて訓練された従来の全結合ネットワークと比較して、エンドツーエンドのConvNetモデルの性能を評価すること。
• 109名の被験者からなる大規模な被験者プールにおける、深層ConvNetの一般化能力を評価し、従来の被験者数に制限された研究に比べてスケーラビリティを向上させること。

提案手法

• 多チャンネルEEGにおける電極間の空間的関係を保持するため、2次元畳み込みを用いた3層の畳み込み層を有する深層ConvNetアーキテクチャを設計した。
• 各畳み込み層の後にバッチ正則化とReLU活性化関数を適用し、学習の安定化と勾配の流れの改善を図った。
• 重複のないウィンドウを用いたマックスプーリングを採用し、特徴マップのダウンサンプリングと計算負荷の低減を実現した。
• 過学習を防ぐために、全結合層の後にドロップアウト層（p = 0.5）を統合した。
• 学習率0.001をベースに、10エポックごとに減衰させるように、Adam、RMSProp、モーメンタム付きSGDの3つの最適化戦略を用いてモデルを訓練した。
• 過学習を防ぐために、検証損失に基づく早期停止を採用し、最も性能の良かったモデルのチェックポイントに復元した。

実験結果

リサーチクエスチョン

• RQ1 生EEGデータに直接学習させた深層ConvNetは、被験者に依存しない形で、想像される左手および右手の運動を高い正確性で予測できるか？
• RQ2 Adam最適化、バッチ正則化、ドロップアウトといった現代的な深層学習技術は、生EEGデータにおけるConvNetの性能にどのように影響を与えるか？
• RQ3 エンドツーエンドのConvNetアプローチは、手作業で抽出したスペクトル特徴（例：Welch周期トグラム）を用いて訓練された従来の全結合ネットワークを上回る性能を示すか？
• RQ4 109名の多様な被験者プールにおいて、提案されたモデルの一般化性能は、被験者数に制限された先行研究と比較してどうか？

主な発見

• 提案された深層ConvNetモデルは、生EEGデータを用いてEEGMMIデータセットで被験者に依存しない分類正確性79.16%を達成した。
• Adam最適化はRMSPropおよびモーメンタム付きSGDを上回り、3つの訓練戦略の中で最高の正確性を達成した。
• バッチ正則化とドロップアウトの統合により、生EEG入力におけるモデルの一般化性能が著しく向上し、過学習が軽減された。
• エンドツーエンドのConvNetアプローチは、従来の全結合ネットワーク（例：Welch周期トグラム）を上回り、後者は信頼できる予測を達成できなかった。
• 109名の被験者全体にわたり、モデルは頑健な性能を示し、被験者固有の最適化を超えた強力な一般化能力を示した。
• 最小限の前処理で十分であり、ConvNetが生信号から階層的な特徴を直接抽出できる能力を示した。