[論文レビュー] Team Cogitat at NeurIPS 2021: Benchmarks for EEG Transfer Learning Competition

Stylianos Bakas, Siegfried Ludwig+6 more|arXiv (Cornell University)|Feb 1, 2022

EEG and Brain-Computer Interfaces被引用数 5

ひとこと要約

本論文は、被験者およびセッション間の共変量シフトを低減するために統計的およびディープセットベースの特徴一致を用いた、EEG転移学習のためのディープラーニング手法を提示する。入力標準化およびトレーニング可能なリードアウト変換を介して、特に複数の層で特徴分布を一致させることで、最先端の性能を達成した。NeurIPS 2021 BEETL コンペティションにおいて、睡眠ステージ分類タスクで65.55%の未加重平均再現率（UAR）、モーターイメージレーションタスクで76.33%を記録した。

ABSTRACT

Building subject-independent deep learning models for EEG decoding faces the challenge of strong covariate-shift across different datasets, subjects and recording sessions. Our approach to address this difficulty is to explicitly align feature distributions at various layers of the deep learning model, using both simple statistical techniques as well as trainable methods with more representational capacity. This follows in a similar vein as covariance-based alignment methods, often used in a Riemannian manifold context. The methodology proposed herein won first place in the 2021 Benchmarks in EEG Transfer Learning (BEETL) competition, hosted at the NeurIPS conference. The first task of the competition consisted of sleep stage classification, which required the transfer of models trained on younger subjects to perform inference on multiple subjects of older age groups without personalized calibration data, requiring subject-independent models. The second task required to transfer models trained on the subjects of one or more source motor imagery datasets to perform inference on two target datasets, providing a small set of personalized calibration data for multiple test subjects.

研究の動機と目的

• 異なるデータセット、被験者、記録セッション間で強い共変量シフトが生じる被験者独立型EEGデコーディングの課題に対処すること。
• ディープニューラルネットワークの複数の層で特徴分布を明示的に一致させることで、EEGにおける転移学習の性能を向上させること。
• 限られたまたは全く個人カスタマイズデータが利用できない状況でも良好に動作する再現可能で頑健なEEG転移学習フレームワークを開発すること。
• 睡眠ステージ分類およびモーターイメージレーションタスクの両方で、NeurIPS 2021 BEETL コンペティションで最高のパフォーマンスを達成すること。

提案手法

• ドレインド畳み込み、分離可能畳み込み、パラメータ数を削減した変更版EEGInceptionアーキテクチャを採用し、表現力は維持しつつ過学習を最小限に抑える。
• 各層で、試行および被験者全体にわたるチャンネルごとの平均および標準偏差を計算し、特徴分布を標準化する統計的特徴一致を実施。
• トレーニング可能なディープセットモジュールを採用し、試行ごとの平均リードアウトを実行し、非線形変換による次元削減を施し、その結果を各特徴ベクトルに連結して精錬する。
• ソースデータおよびキャリブレーションデータを共同でトレーニングし、最適化中にクラスおよび被験者寄与度をバランスさせるためにキャリブレーションセットのオーバーサンプリングを実施。
• 特徴抽出の前段階で、被験者ごとの試行間で入力信号を標準化し、原始EEGパワー分布を一致させる。
• 10分割交差検証におけるモデル予測を平均ログitでアンサンブル化し、汎化性能およびテスト性能を向上させる。

実験結果

リサーチクエスチョン

• RQ1 統計的および学習可能な特徴一致手法は、被験者およびセッション間のEEG転移学習における共変量シフトを効果的に低減できるか？
• RQ2 CNNの複数の層での特徴一致は、被験者独立型EEGデコーディングタスクのパフォーマンスにどのように影響するか？
• RQ3 入力レベルでの標準化は、多様なデータセットで訓練されたEEGモデルの汎化性能をどの程度向上させるか？
• RQ4 共有特徴抽出とデータセット固有の分類器を備えた統合モデルは、最小限のキャリブレーションデータで複数のモーターイメージレーションデータセットに良好に一般化できるか？

主な発見

• 特徴一致を施さないベースラインモデルは、睡眠ステージ分類タスクで56.87%の未加重平均再現率（UAR）を記録し、共変量シフトのための大幅な改善余地があることが示された。
• 統計的特徴一致を追加することで、睡眠タスクの交差検証UARは67.70%に上昇し、分布一致による顕著なパフォーマンス向上が確認された。
• 最終的なアンサンブルモデルは、睡眠ステージングのテストセットで65.55%のUARを達成し、実運用環境における一致手法の有効性が裏付けられた。
• モーターイメージレーションタスクにおいて、ベースラインモデルは交差検証で63.72%のUARを記録したが、統計的およびディープセット一致を追加することで72.44%に向上した。
• 最終モデルは、モーターイメージレーションのテストセットで76.33%のUARを達成し、コンペティションを上回る性能を示し、本手法の頑健性が検証された。
• 入力レベルでの標準化と、後段の層でのディープセットベースの精錬の組み合わせが、被験者独立型および個人カスタマイズ型の両方の転移学習状況で一貫した向上をもたらした。