[論文レビュー] Adversarial Domain Adaptation with Self-Training for EEG-based Sleep Stage Classification.

Emadeldeen Eldele, Mohamed Ragab+5 more|arXiv (Cornell University)|Jul 9, 2021

Domain Adaptation and Few-Shot Learning参考文献 15被引用数 4

ひとこと要約

本稿では、自己学習を組み合わせた敵対的ドメイン適応フレームワークを提案し、EEGを用いた睡眠ステージ分類に応用する。非共有アテンション機構を用いてドメイン固有の特徴を保持し、疑似ラベルを用いた二重分類器の自己学習戦略により、ドメイン間で細分化されたクラス分布を整合化する。本手法は、6つのクロスドメイン睡眠ステージングシナリオにおいて最先端の性能を達成する。

ABSTRACT

Sleep staging is of great importance in the diagnosis and treatment of sleep disorders. Recently, numerous data driven deep learning models have been proposed for automatic sleep staging. They mainly rely on the assumption that training and testing data are drawn from the same distribution which may not hold in real-world scenarios. Unsupervised domain adaption (UDA) has been recently developed to handle this domain shift problem. However, previous UDA methods applied for sleep staging has two main limitations. First, they rely on a totally shared model for the domain alignment, which may lose the domain-specific information during feature extraction. Second, they only align the source and target distributions globally without considering the class information in the target domain, which hinders the classification performance of the model. In this work, we propose a novel adversarial learning framework to tackle the domain shift problem in the unlabeled target domain. First, we develop unshared attention mechanisms to preserve the domain-specific features in the source and target domains. Second, we design a self-training strategy to align the fine-grained class distributions for the source and target domains via target domain pseudo labels. We also propose dual distinct classifiers to increase the robustness and quality of the pseudo labels. The experimental results on six cross-domain scenarios validate the efficacy of our proposed framework for sleep staging and its advantage over state-of-the-art UDA methods.

研究の動機と目的

• トレーニングデータとテストデータが異なる分布に由来する場合のEEGベースの睡眠ステージングにおけるドメインシフト問題に対処すること。
• 共有モデルとグローバルな分布整合化に依存する従来の教師なしドメイン適応（UDA）手法の限界を克服すること。
• ソースドメインおよびターゲットドメインで別々に学習する非共有アテンション機構を用いて、ドメイン固有の特徴を保持すること。
• 疑似ラベルを用いてターゲットドメインのクラスレベル分布を整合化することで、分類性能を向上させること。
• 自己学習フレームワークにおける二つの別個の分類器により、疑似ラベルの品質を向上させること。

提案手法

• ソースドメインおよびターゲットドメインで別々に学習する非共有アテンション機構を導入し、ドメイン固有の表現を保持する。
• 自己学習戦略を採用し、未ラベルのターゲットドメインデータに対してモデルが疑似ラベルを生成する。
• 二つの異なる分類器を用いて疑似ラベルを予測することで、疑似ラベルの堅牢性と信頼性を向上させる。
• 敵対的訓練を適用し、クラスレベルでソースドメインとターゲットドメインの特徴分布を整合化する。
• 分類損失、敵対的損失、および疑似ラベルの整合性損失を組み合わせて、モデルをエンドツーエンドで最適化する。
• ソースドメインとターゲットドメインで一貫した予測を生成するよう促すことで、細分化されたクラス分布を整合化する。

実験結果

リサーチクエスチョン

• RQ1 非共有アテンション機構は、クロスドメインEEGベースの睡眠ステージングにおけるドメイン固有特徴の学習を向上させることができるか？
• RQ2 ドメインシフトが存在する状況で、疑似ラベルを用いた自己学習は分類性能を向上させるか？
• RQ3 二重の分類器は、教師なしドメイン適応における疑似ラベルの品質と堅牢性を向上させることができるか？
• RQ4 グローバルな分布整合化と比較して、本手法はクラスレベルの分布をどの程度効果的に整合化できるか？
• RQ5 本フレームワークは、複数のクロスドメイン睡眠ステージングシナリオにおいて、最先端のUDA手法を上回る性能を示すか？

主な発見

• 提案手法は、6つのクロスドメインEEG睡眠ステージングシナリオにおいて、最先端の性能を達成する。
• 非共有アテンション機構の使用により、ドメイン固有の特徴がより良く保持され、モデルの一般化性能が向上する。
• 二重分類器を用いた自己学習戦略により、疑似ラベルの品質が顕著に向上し、ノイズの多い予測が低減される。
• 細分化されたクラス分布の整合化により、グローバルな分布整合化と比較して分類精度が向上する。
• 本モデルは、睡眠ステージングにおいて多様な被験者およびデバイスドメインにわたり、強力な堅牢性と一貫性を示す。
• 定量的評価では、全6つの評価済みクロスドメイン設定において、既存のSOTA UDA手法を上回る一貫した性能向上が得られた。