[論文レビュー] Subject-Aware Contrastive Learning for Biosignals

Joseph Y. Cheng, Hanlin Goh+3 more|arXiv (Cornell University)|Jun 30, 2020

Muscle activation and electromyography studies参考文献 45被引用数 77

ひとこと要約

自己教師付き対比学習アプローチで、被験者間のばらつきを処理するために被験者認識型の損失を取り入れた biosignals の手法。広範な EEG および ECG の評価により、ラベルデータと対象者が制限されている場合でも競争力のある性能と、表現表現の改善が示される。

ABSTRACT

Datasets for biosignals, such as electroencephalogram (EEG) and electrocardiogram (ECG), often have noisy labels and have limited number of subjects (<100). To handle these challenges, we propose a self-supervised approach based on contrastive learning to model biosignals with a reduced reliance on labeled data and with fewer subjects. In this regime of limited labels and subjects, intersubject variability negatively impacts model performance. Thus, we introduce subject-aware learning through (1) a subject-specific contrastive loss, and (2) an adversarial training to promote subject-invariance during the self-supervised learning. We also develop a number of time-series data augmentation techniques to be used with the contrastive loss for biosignals. Our method is evaluated on publicly available datasets of two different biosignals with different tasks: EEG decoding and ECG anomaly detection. The embeddings learned using self-supervision yield competitive classification results compared to entirely supervised methods. We show that subject-invariance improves representation quality for these tasks, and observe that subject-specific loss increases performance when fine-tuning with supervised labels.

研究の動機と目的

• 限られたラベルと少数の被験者で頑健な biosignal 表現を学習する動機づけ。
• SSL に被験者認識メカニズムを導入して、被験者間のばらつきを扱う。
• biosignals に特化したドメイン指向のデータ拡張を開発。
• (a) 被験者固有の対比損失と(b) 被対称性を促進する敵対的訓練を通じて、被験者情報を取り入れる。
• EEG のデコーディングと ECG の異常検知タスクで表現を評価する。

提案手法

• 拡張された biosignal 区間を潜在表現に写すエンコーダ G を用いる。
• InfoNCE 対比損失を通じて二つの拡張間の相互情報を最適化する。
• 被験者認識訓練を導入： (i) 被験者固有の対比損失、(ii) 被験者不変性を促進する敵対訓練。
• マイナスサンプリングや正則化に被験者情報を取り入れ、制御可能なウェイト λ を用いる。
• 時系列拡張（時系列の切り出し、遅延、ノイズ、バンドストップ、信号混合）と EEG 固有の空間拡張を開発・適用。
• バッチと時間を跨いでネガティブ集合を拡大するモーメンタムエンコーダで訓練。

実験結果

リサーチクエスチョン

• RQ1 自己教師付き対比学習は、限られたラベルと被験者数で判別可能な生体信号表現を生成できるか？
• RQ2 被験者認識（不変性または特異性）を組み込むと、ベースの SSL と比較して下流の EEG/ECG タスクが改善されるか？
• RQ3 どのデータ拡張が生体信号のタスク関連情報を対比学習フレームワーク内で最もよく保持するか？
• RQ4 unseen 被験者で supervise ラベルを用いたファインチューニングを行った場合、被験者認識型 SSL 表現はどうなるか？

主な発見

• 被験者不変性 SSL は、被験者が限られている場合に EEG および ECG の表現品質を改善する。
• 被験者固有 SSL と被験者不変 SSL は、埋め込み内の被験者識別情報を減少させつつ下流の精度を高めることができる。
• 時間的拡張（切り出し・遅延）は、試験された変換の中で EEG 表現学習を最も高める。
• 被験者認識型 SSL は、完全な教師付きベースラインと比較して、特にラベルや被験者数が少ない場合に EEG のデコードと ECG のビート／リズム分類で競合する成績を示す。
• SSL 初期化からのファインチューニング（特に被験者特異的なもの）は、EEG タスクのエンドツーエンドの教師あり性能を改善する。
• ECG では、低ラベル・低被験者の領域で被験者不変 SSL が有益であり、被験者情報のバランスをとる正則化パラメータ λ の調整が必要になることがある。