[論文レビュー] Self-supervised EEG Representation Learning for Automatic Sleep Staging

Chaoqi Yang, Cao Xiao+2 more|arXiv (Cornell University)|Oct 27, 2021

EEG and Brain-Computer Interfaces参考文献 34被引用数 20

ひとこと要約

本論文は、大規模なEEGデータセットの統計的特徴を用いて異なる睡眠ステージを対比させる自己教師あり表現学習モデルContraWRを提案する。これにより、膨大な人為的アノテーションが不要な高品質な特徴抽出が可能となり、自動睡眠ステージ分類において最先端の性能を達成する。特に低ラベルレジーム下でも優れた性能を示し、2%未満のラベルデータで4%の精度向上を達成する。

ABSTRACT

Background: Deep learning models have shown great success in automating tasks in sleep medicine by learning from carefully annotated Electroencephalogram (EEG) data. However, effectively utilizing a large amount of raw EEG remains a challenge. Objective: In this paper, we aim to learn robust vector representations from massive unlabeled EEG signals, such that the learned vectorized features (1) are expressive enough to replace the raw signals in the sleep staging task; and (2) provide better predictive performance than supervised models in scenarios of fewer labels and noisy samples. Methods: We propose a self-supervised model, named Contrast with the World Representation (ContraWR), for EEG signal representation learning, which uses global statistics from the dataset to distinguish signals associated with different sleep stages. The ContraWR model is evaluated on three real-world EEG datasets that include both at-home and in-lab EEG recording settings. Results: ContraWR outperforms 4 recent self-supervised learning methods on the sleep staging task across 3 large EEG datasets. ContraWR also beats supervised learning when fewer training labels are available (e.g., 4% accuracy improvement when less than 2% data is labeled). Moreover, the model provides informative representative feature structures in 2D projection. Conclusions: We show that ContraWR is robust to noise and can provide high-quality EEG representations for downstream prediction tasks. The proposed model can be generalized to other unsupervised physiological signal learning tasks. Future directions include exploring task-specific data augmentations and combining self-supervised with supervised methods, building upon the initial success of self-supervised learning in this paper.

研究の動機と目的

• 大規模なラベルなしEEGデータから表現力があり一般化可能な表現を学習し、自動睡眠ステージ分類に応用すること。
• 少量データやノイズの多いラベル環境下における教師あり学習の限界を克服すること。
• 人為的ラベルなしで意味のある睡眠ステージの違いを捉える自己教師あり手法を開発すること。
• 異なるEEG記録環境（研究室内と自宅）におけるモデルの頑健性と汎用性を評価すること。
• 臨床的・分析的インサイトを得るための解釈可能な低次元特徴投影を提供すること。

提案手法

• ContraWRは、同じ睡眠ステージのサンプルを正例として用いる対照的学習フレームワークを採用し、全EEGデータセットの統計的特徴（例：平均、分散）を正例として用いる。
• モデルは、異なる睡眠ステージの埋め込みを対比させつつ、全データセットの統計的特徴をアンカーとして用いて同じステージのサンプル同士を引き寄せるように表現を学習する。
• 同じEEG信号の正例ビューを生成するために、時間マスキングや周波数マスキングなどのデータ拡張戦略を適用する。
• シアン型ニューラルネットワークアーキテクチャを用いてEEGセグメントを潜在ベクトルに符号化し、対照的損失によりクラス内分散を最小化し、クラス間分離を最大化する。
• 最終的な表現は、1つのEEGエポック全体の埋め込みの平均値から得られ、微調整を最小限に抑えた下流分類に適している。

実験結果

リサーチクエスチョン

• RQ1 自己教師あり表現学習は、ラベルなしの生EEG信号から、睡眠ステージ分類に適した判別的特徴を効果的に抽出できるか？
• RQ2 少量のラベルしか利用できない状況下で、自己教師ありモデルの性能は教師ありベースラインと比べてどうなるか？
• RQ3 データセット全体の統計的パターンは、EEGにおける対照的学習の正例として効果的か？
• RQ4 学習された表現は、研究室内と自宅での異なるEEG記録環境においても一般化できるか？
• RQ5 モデルが学習した特徴は、低次元空間に意味的に解釈可能な形で可視化できるか、睡眠ステージの構造を反映しているか？

主な発見

• ContraWRは、3つの大規模EEGデータセットにおいて、4つの最近の自己教師あり学習手法を上回る性能を示した。
• ラベルデータが2%未満の状況下で、教師ありベースラインよりも4%の精度向上を達成し、優れたデータ効率性を示した。
• 2次元t-SNEプロットにおいて、学習された表現は明確に分離された睡眠ステージのクラスタリングを示しており、意味のある特徴構造を有していることがわかった。
• ContraWRは、ノイズやEEG記録のばらつき（自宅での記録データを含む）に対して頑健であることが確認された。
• モデルは下流タスクへの汎用性が高く、無教師生理信号学習分野への広範な応用可能性を示唆している。