[論文レビュー] L-SeqSleepNet: Whole-cycle Long Sequence Modelling for Automatic Sleep Staging

Huy P. Phan, Kristian P. Lorenzen+8 more|arXiv (Cornell University)|Jan 9, 2023

EEG and Brain-Computer Interfaces被引用数 10

ひとこと要約

L-SeqSleepNetは睡眠段階分類のための全サイクル長期シーケンスモデリングを導入し、効率的な長期シーケンス処理と1チャネル入力で複数のEEG設定において最新の結果を達成します。

ABSTRACT

Human sleep is cyclical with a period of approximately 90 minutes, implying long temporal dependency in the sleep data. Yet, exploring this long-term dependency when developing sleep staging models has remained untouched. In this work, we show that while encoding the logic of a whole sleep cycle is crucial to improve sleep staging performance, the sequential modelling approach in existing state-of-the-art deep learning models are inefficient for that purpose. We thus introduce a method for efficient long sequence modelling and propose a new deep learning model, L-SeqSleepNet, which takes into account whole-cycle sleep information for sleep staging. Evaluating L-SeqSleepNet on four distinct databases of various sizes, we demonstrate state-of-the-art performance obtained by the model over three different EEG setups, including scalp EEG in conventional Polysomnography (PSG), in-ear EEG, and around-the-ear EEG (cEEGrid), even with a single EEG channel input. Our analyses also show that L-SeqSleepNet is able to alleviate the predominance of N2 sleep (the major class in terms of classification) to bring down errors in other sleep stages. Moreover the network becomes much more robust, meaning that for all subjects where the baseline method had exceptionally poor performance, their performance are improved significantly. Finally, the computation time only grows at a sub-linear rate when the sequence length increases.

研究の動機と目的

• 睡眠段階分類における長期的・全サイクルの時間構造を取り入れて精度を向上させる動機付け。
• 全睡眠サイクル (~90 分) に適した効率的な長期シーケンスモデリングアーキテクチャの開発。
• 多様な EEG モダリティとデータベースを横断したモデルの頑健性と転移性の実証。
• 長期サイクルモデリングが誤分類を減少させつつ計算効率を維持することの示唆。

提案手法

• 各30秒 EEGエポックをSTFTによる対数振幅の時系列画像に変換。
• 学習可能なフィルタバンク、BLSTM、ゲート付きアテンションを備えた共有サブネットワークを用いて各エポックを埋め込みにエンコード。
• 長いシーケンスを重ならない部分シーケンスに折り畳み、部分シーケンス内のBLSTM処理を残差接続で適用し、その後部分シーケンス間のBLSTMモデリングを実施して長いシーケンスとして展開。
• 全シーケンスに対してL2正則化付きのクロスエントロピー損失で訓練。
• ReLU活性化とソフトマックス出力を持つ2層の全結合分類器を用いて、長いシーケンス中の全エポックの睡眠段階確率を予測。

実験結果

リサーチクエスチョン

• RQ1 長いシーケンス（全サイクル情報）をモデリングすることは、従来の短文脈アプローチより自動睡眠段階分類を改善するのか？
• RQ2 単一チャネル入力を用いて頭皮、耳内、cEEGridといった異なる EEG 設定で長期シーケンスモデリングが精度を維持または向上させるのか？
• RQ3 全サイクルモデリングはN3やREMのように表現が少ないクラスのパフォーマンスにどのように影響するか？
• RQ4 長期シーケンスアプローチは計算効率が高く、シーケンス長とともにスケーラブルか？

主な発見

• L-SeqSleepNetはランダム初期化および事前学習ベース初期化の両方でSeqSleepNetベースラインを4データベースで一貫して上回る。
• SHHSでは、L-SeqSleepNetは88.4%の精度を達成し、報告された設定でSleepTransformerおよびXSleepNetを0.7–0.8ポイント上回る。
• 事前学習を用いると、SleepEDF、ear-EEG、cEEGridでそれぞれ1.0%、1.9%、3.9%の改善をベースラインより達成。
• 長期サイクルモデリングはデータセット全体でN3とREMの誤りを減少させる一方、N2で若干のトレードオフ増を示し、サイクルベースの構造の扱いが改善されていることを示唆。
• このアプローチは頑健性を維持し、ベースラインが低パフォーマンスだった被験者の性能を改善しており、シーケンス長に対する計算成長はサブリニアレベルである。