[論文レビュー] Ultra Efficient Transfer Learning with Meta Update for Cross Subject EEG Classification

Tiehang Duan, Mihir Chauhan+3 more|arXiv (Cornell University)|Mar 13, 2020

EEG and Brain-Computer Interfaces参考文献 24被引用数 17

ひとこと要約

本稿では、最小限のラベル付きデータで新しい被験者に素早く適応可能であり、以前に学習した被験者の知識を保持する、メタラーニングに基づく転移学習手法 MUPS-EEG を提案する。メタラーニングされた表現とメタアップデート戦略を活用することで、2つの公開 EEG データセットにおいて最先端の性能を達成し、従来手法よりも最大で 3.4% の精度向上と 1.5% の AUC-ROC 向上を実現した。

ABSTRACT

The pattern of Electroencephalogram (EEG) signal differs significantly across different subjects, and poses challenge for EEG classifiers in terms of 1) effectively adapting a learned classifier onto a new subject, 2) retaining knowledge of known subjects after the adaptation. We propose an efficient transfer learning method, named Meta UPdate Strategy (MUPS-EEG), for continuous EEG classification across different subjects. The model learns effective representations with meta update which accelerates adaptation on new subject and mitigate forgetting of knowledge on previous subjects at the same time. The proposed mechanism originates from meta learning and works to 1) find feature representation that is broadly suitable for different subjects, 2) maximizes sensitivity of loss function for fast adaptation on new subject. The method can be applied to all deep learning oriented models. Extensive experiments on two public datasets demonstrate the effectiveness of the proposed model, outperforming current state of the arts by a large margin in terms of both adapting on new subject and retain knowledge of learned subjects.

研究の動機と目的

• 脳-コンピュータインターフェース（BCI）システムにおける被験者間での顕著な EEG パatters 変動に起因する課題に対処すること。
• 最小限のラベル付きデータで、これまでに観測されていない新しい被験者に対して、EEG 分類器を素早くかつ正確に適応可能にすること。
• 適応の過程で、以前に学習した被験者に関する知識を著しく損なわないようにすること。
• 任意のディープラーニングベースの EEG 分類器に適用可能な汎用的で計算効率の良い転移学習フレームワークを開発すること。
• 被験者の動的な変更が生じる現実世界の BCI システムの展開を促進するため、クロス・サブジェクト一般化性能を向上させること。

提案手法

• 本手法は二段階のメタラーニングフレームワークを採用する：ソース被験者におけるメタ表現学習とターゲット被験者におけるメタ適応。
• メタ表現学習は、複数のソース被験者から、多様性に富み被験者に依存しない特徴を抽出することで、一般化性能を向上させる。
• メタ適応は、ターゲット被験者データに対して少数の勾配ステップを用いて、迅速にモデルをファインチューニングする一方で、ソース被験者の知識を保持する。
• メタアップデート機構は、新しいデータに対する小さな更新への損失関数の感度を最大化することで、迅速な適応を最適化する。
• 本手法はモデルに依存せず、EEG 分類に用いられる任意のディープラーニングアーキテクチャに適用可能である。
• 最適化は階層ベイジアン推論問題として定式化され、メタパラメータの事後分布を近似することで、適応と知識保持のバランスを取る。

実験結果

リサーチクエスチョン

• RQ1 メタラーニングアプローチは、効果的なクロス・サブジェクト EEG 分類のためのターゲット被験者データのラベル付き量を顕著に削減できるか？
• RQ2 新しい被験者に適応する過程で、以前に学習した被験者の知識をどの程度保持できるか？
• RQ3 メタラーニングされた表現学習は、被験者間で多様な EEG シグナルパターンが存在する状況において、一般化性能を向上させるか？
• RQ4 提案手法のメタアップデート戦略は、古典的な転移学習およびドメイン適応手法と比較して、精度と頑健性の面で優れているか？
• RQ5 収束および最適性能を達成するために、ターゲット被験者データに必要な最小量はどれくらいか？

主な発見

• BCI IV-2a データセットでは、MUPS-EEG は最先端手法と比較して、少なくとも 2.2% の精度向上と 1.3% の AUC-ROC 向上を達成した。
• DEAP データセットでは、MUPS-EEG はすべてのベースラインを、少なくとも 3.4% の精度向上と 1.5% の AUC-ROC 向上で上回った。
• MUPS-EEG は BCI IV-2a の 9 名中 7 名の被験者に対して 70% の精度以上を達成し、実用的 BCI アプリケーションの閾値を満たした。
• 本手法は優れた知識保持性能を示し、BCI IV-2a データセットにおいて、ベースラインと比較して平均で 1.6% の精度向上と 0.5% の AUC-ROC 向上を達成した。
• より困難な DEAP データセットでは、MUPS-EEG は次に優れた手法と比較して、平均で 2.6% の精度向上と 0.7% の AUC-ROC 向上を達成した。
• BCI IV-2a ではターゲットデータ 2 分、DEAP では 5 分で性能が収束したため、高いデータ効率性が示された。