[论文解读] Modeling Multivariate Biosignals With Graph Neural Networks and Structured State Space Models

Siyi Tang, Jared Dunnmon+5 more|arXiv (Cornell University)|Nov 21, 2022

EEG and Brain-Computer Interfaces被引用 7

一句话总结

本文提出 GraphS4mer，一种新颖的图神经网络架构，结合结构化状态空间模型（S4）与动态图结构学习，以建模多变量生物信号中的长程时序依赖与复杂空间依赖。该方法在三个生物信号分类任务中实现最先进性能——癫痫检测（AUROC 提升 3.1）、睡眠分期（宏 F1 提升 4.1）、心电图分类（宏 F1 提升 2.7），通过联合捕捉原始生物信号中的时序动态与演化空间相关性。

ABSTRACT

Multivariate biosignals are prevalent in many medical domains, such as electroencephalography, polysomnography, and electrocardiography. Modeling spatiotemporal dependencies in multivariate biosignals is challenging due to (1) long-range temporal dependencies and (2) complex spatial correlations between the electrodes. To address these challenges, we propose representing multivariate biosignals as time-dependent graphs and introduce GraphS4mer, a general graph neural network (GNN) architecture that improves performance on biosignal classification tasks by modeling spatiotemporal dependencies in biosignals. Specifically, (1) we leverage the Structured State Space architecture, a state-of-the-art deep sequence model, to capture long-range temporal dependencies in biosignals and (2) we propose a graph structure learning layer in GraphS4mer to learn dynamically evolving graph structures in the data. We evaluate our proposed model on three distinct biosignal classification tasks and show that GraphS4mer consistently improves over existing models, including (1) seizure detection from electroencephalographic signals, outperforming a previous GNN with self-supervised pre-training by 3.1 points in AUROC; (2) sleep staging from polysomnographic signals, a 4.1 points improvement in macro-F1 score compared to existing sleep staging models; and (3) 12-lead electrocardiogram classification, outperforming previous state-of-the-art models by 2.7 points in macro-F1 score.

研究动机与目标

• 解决在高采样率生物信号（如 EEG、ECG 和多导睡眠图）中建模长程时序依赖的挑战。
• 捕捉传感器之间随个体与时间变化的复杂非欧几里得空间相关性。
• 开发一种统一的深度学习框架，联合建模时空动态，且不依赖固定或预定义图结构。
• 通过集成结构化状态空间模型（S4）与端到端可微图结构学习，提升生物信号分类任务性能。

提出的方法

• 模型使用堆叠的 S4 层独立捕捉每个传感器时间序列中的长程时序依赖。
• 图结构学习（GSL）层从 S4 编码表示中动态学习随时间演化的邻接矩阵，实现自适应空间建模。
• 学习到的动态图被输入 GNN 层，通过消息传递机制建模传感器间的空间相关性。
• 该架构通过可微 S4 模块与基于自注意力的 GSL 层实现端到端训练，后者在不同时间分辨率下生成多个动态图。
• 在 GSL 层中通过调节分辨率设置（r）评估模型，其中 r 控制每段序列的动态图数量。
• 该框架应用于三个生物信号任务：癫痫检测（TUSZ）、睡眠分期（DOD-H）与 12 导联心电图分类（ICBEB），使用公开可用数据集。

实验结果

研究问题

• RQ1 深度学习模型是否能在无需预处理或分窗的情况下，有效捕捉高分辨率生物信号中的长程时序依赖？
• RQ2 端到端可微图结构学习在传感器位置可变的生物信号中，如何改善空间建模性能？
• RQ3 将结构化状态空间模型（S4）与动态图学习结合，在生物信号分类任务中是否显著优于现有 GNN 与序列模型？
• RQ4 图结构学习层中不同时间分辨率设置（r）对模型性能与计算成本的影响如何？

主要发现

• 在 TUSZ EEG 癫痫检测数据集上，GraphS4mer 相较于先前最先进 GNN（采用自监督预训练）实现了 AUROC 提升 3.1 个百分点（从 85.6 提升至 88.7）。
• 在 DOD-H 多导睡眠图数据集上，GraphS4mer 将宏 F1 分数提升 4.1 个百分点（从 72.3 提升至 76.4），优于现有睡眠分期模型。
• 在 ICBEB 12 导联心电图分类任务中，GraphS4mer 相较于先前最先进模型实现宏 F1 分数提升 2.7 个百分点（从 78.9 提升至 81.6）。
• 图结构学习层仅增加 33k 参数（约占总参数的 12%），且计算量（MACs）随动态图数量成比例增长；当分辨率 r 降低时，无额外参数增加。
• 可视化学习到的图结构揭示了具有生物学合理性的模式：REM 睡眠期间肌电图（EMG）显示较弱连接性，而左束支传导阻滞（LBBB）心电图表现出与正常心电图最大的空间图差异。
• 该模型在不同长度的心电图序列上保持强鲁棒性，结果在 r = T/10 分辨率下报告，证明对输入长度变化具有鲁棒性。