[論文レビュー] Modeling Multivariate Biosignals With Graph Neural Networks and Structured State Space Models

Siyi Tang, Jared Dunnmon+5 more|arXiv (Cornell University)|Nov 21, 2022

EEG and Brain-Computer Interfaces被引用数 7

ひとこと要約

本稿では、構造的状態空間モデル（S4）と動的グラフ構造学習を組み合わせることで、多次元バイオシグナルにおける長距離の時間的依存性および複雑な空間的依存性をモデル化する、新しいグラフニューラルネットワークアーキテクチャであるGraphS4merを提案する。この手法は、生のバイオシグナルにおける時間的ダイナミクスと変化する空間相関を統合的に捉えることで、3つのバイオシグナル分類タスク（てんかん発作検出：3.1 AUROC上昇、睡眠ステージ分類：4.1マクロF1上昇、ECG分類：2.7マクロF1上昇）で最先端の性能を達成した。

ABSTRACT

Multivariate biosignals are prevalent in many medical domains, such as electroencephalography, polysomnography, and electrocardiography. Modeling spatiotemporal dependencies in multivariate biosignals is challenging due to (1) long-range temporal dependencies and (2) complex spatial correlations between the electrodes. To address these challenges, we propose representing multivariate biosignals as time-dependent graphs and introduce GraphS4mer, a general graph neural network (GNN) architecture that improves performance on biosignal classification tasks by modeling spatiotemporal dependencies in biosignals. Specifically, (1) we leverage the Structured State Space architecture, a state-of-the-art deep sequence model, to capture long-range temporal dependencies in biosignals and (2) we propose a graph structure learning layer in GraphS4mer to learn dynamically evolving graph structures in the data. We evaluate our proposed model on three distinct biosignal classification tasks and show that GraphS4mer consistently improves over existing models, including (1) seizure detection from electroencephalographic signals, outperforming a previous GNN with self-supervised pre-training by 3.1 points in AUROC; (2) sleep staging from polysomnographic signals, a 4.1 points improvement in macro-F1 score compared to existing sleep staging models; and (3) 12-lead electrocardiogram classification, outperforming previous state-of-the-art models by 2.7 points in macro-F1 score.

研究の動機と目的

• 高サンプリングレートのバイオシグナル（例：EEG、ECG、多臓器睡眠図）における長距離の時間的依存性をモデル化する課題に対処すること。
• 被験者間で変化し、時間経過とともに変化するセンサー間の複雑な非ユークリッド空間的相関を捉えること。
• 固定または事前に定義されたグラフ構造に依存せずに、空間的・時間的ダイナミクスを統合的にモデル化する包括的なディーブラーニングフレームワークを構築すること。
• 構造的状態空間モデル（S4）とエンドツーエンド微分可能なグラフ構造学習を統合することで、バイオシグナル分類タスクの性能を向上させること。

提案手法

• 各センサーの時系列データに対して、長距離の時間的依存性を独立に捉えるために、スタックされたS4層を用いる。
• グラフ構造学習（GSL）層は、S4で符号化された表現から時間的に変化する隣接行列を動的に学習し、適応的な空間モデリングを可能にする。
• 学習された動的グラフはGNN層に供給され、メッセージパッシングを用いてセンサー間の空間的相関をモデル化する。
• 微分可能S4モジュールと自己注意ベースのGSL層を用いて、エンドツーエンドで訓練する。このGSL層は、異なる時間的解像度で複数の動的グラフを生成する。
• GSL層における解像度設定（r）を変化させ、各シーケンスあたりの動的グラフ数を制御する。
• フレームワークは、公開済みのデータセットを用いて3つのバイオシグナルタスクに適用：てんかん発作検出（TUSZ）、睡眠ステージ分類（DOD-H）、12誘導ECG分類（ICBEB）

実験結果

リサーチクエスチョン

• RQ1 事前処理やウィンドウ処理を施さずに、高分解能バイオシグナルにおける長距離の時間的依存性を深層学習モデルが効果的に捉えられるか？
• RQ2 エンドツーエンド微分可能なグラフ構造学習は、センサー配置が異なるバイオシグナルにおいて空間モデリングをどのように向上させるか？
• RQ3 構造的状態空間モデル（S4）と動的グラフ学習を組み合わせることで、従来のGNNや系列モデルに比べて、バイオシグナル分類タスクでどの程度性能が向上するか？
• RQ4 グラフ構造学習層における異なる時間的解像度設定（r）が、モデル性能および計算コストに与える影響はどの程度か？

主な発見

• TUSZEEGてんかん発作検出データセットにおいて、自己教師付き事前学習を施した前回のSOTA GNNと比較して、AUROCが3.1ポイント上昇（85.6から88.7に）した。
• DOD-H多臓器睡眠図データセットでは、マクロF1スコアが4.1ポイント上昇（72.3から76.4に）し、既存の睡眠ステージ分類モデルを上回った。
• ICBEB 12誘導ECG分類タスクでは、前回の最先端モデルと比較してマクロF1スコアが2.7ポイント上昇（78.9から81.6に）した。
• グラフ構造学習層はわずか33kパラメータ（全体の約12%）しか追加せず、動的グラフの数に比例してMACsが増加したが、解像度rが低下すると追加パラメータは発生しなかった。
• 学習されたグラフの可視化から、生物学的に妥当なパターンが観察された：REM睡眠中のEMGは弱い結合性を示し、LBBB ECGでは正常ECGと比較して空間的グラフの差が最大であった。
• 変動する長さのECGシーケンスに対しても、モデルは高い性能を維持した。r = T/10の解像度で結果を報告したが、これは入力長の変動に対して強いロバストネスを示した。