[论文解读] BIOT: Cross-data Biosignal Learning in the Wild

Chaoqi Yang, M. Brandon Westover+1 more|arXiv (Cornell University)|May 10, 2023

EEG and Brain-Computer Interfaces被引用 4

一句话总结

本文提出 BIOT，一种生物信号变换器模型，通过将每个信号通道分割为固定长度的片段并将其展平为统一的“生物信号句子”，实现了在通道不匹配、长度可变及存在缺失值的多样化数据集之间进行跨数据的生物信号学习。该模型通过在异质生物信号数据上预训练模型进行迁移学习，在癫痫检测任务中实现了最先进性能，平衡准确率最高提升 4%。

ABSTRACT

Biological signals, such as electroencephalograms (EEG), play a crucial role in numerous clinical applications, exhibiting diverse data formats and quality profiles. Current deep learning models for biosignals are typically specialized for specific datasets and clinical settings, limiting their broader applicability. Motivated by the success of large language models in text processing, we explore the development of foundational models that are trained from multiple data sources and can be fine-tuned on different downstream biosignal tasks. To overcome the unique challenges associated with biosignals of various formats, such as mismatched channels, variable sample lengths, and prevalent missing values, we propose a Biosignal Transformer (\method). The proposed \method model can enable cross-data learning with mismatched channels, variable lengths, and missing values by tokenizing diverse biosignals into unified "biosignal sentences". Specifically, we tokenize each channel into fixed-length segments containing local signal features, flattening them to form consistent "sentences". Channel embeddings and {\em relative} position embeddings are added to preserve spatio-temporal features. The \method model is versatile and applicable to various biosignal learning settings across different datasets, including joint pre-training for larger models. Comprehensive evaluations on EEG, electrocardiogram (ECG), and human activity sensory signals demonstrate that \method outperforms robust baselines in common settings and facilitates learning across multiple datasets with different formats. Use CHB-MIT seizure detection task as an example, our vanilla \method model shows 3\% improvement over baselines in balanced accuracy, and the pre-trained \method models (optimized from other data sources) can further bring up to 4\% improvements.

研究动机与目标

• 解决在格式不一致的生物信号上训练深度学习模型的挑战，包括通道不匹配、长度可变和缺失值问题。
• 开发一种统一且灵活的框架，实现在无需大量数据预处理的情况下，跨多样化生物信号数据集的知识迁移。
• 探索在多种生物信号源（如 EEG、ECG）上联合预训练的可行性，以构建用于下游临床任务的基础模型。
• 评估无监督和有监督预训练策略在提升下游生物信号分类性能方面的有效性。
• 证明单一模型架构可通过极少微调即可在多种生物信号模态和临床任务中实现良好泛化。

提出的方法

• BIOT 引入了一种新颖的生物信号标记化模块，将每个通道分割为固定长度的时间片段，提取局部信号特征，形成一致的“生物信号句子”。
• 该模型应用通道嵌入和相对位置嵌入，以保留通道间和时间点之间的空间与时间关系。
• 使用标准的 Transformer 编码器处理展平后的、标记化的生物信号序列，从而实现在空间（通道）和时间（片段）维度上的注意力机制。
• 该架构通过将所有输入视为标记序列，无论通道数量或持续时间如何，均支持在多种格式的数据集上进行联合预训练。
• 预训练使用大规模未标注生物信号数据上的对比学习目标进行，随后在下游分类任务上进行微调。
• 该模型支持有监督和自监督预训练，从而可从多样化数据源（如 EEG、ECG 和活动监测信号）中进行迁移学习。

实验结果

研究问题

• RQ1 单一深度学习模型能否有效编码具有高度可变格式的生物信号，包括通道数量不同、采样率不同和长度不一的情况？
• RQ2 在通道数量或记录时长不同的数据集之间，知识迁移的程度如何？
• RQ3 在多个异构生物信号数据集上进行联合预训练，是否能提升下游性能，相比在单个数据集上训练更优？
• RQ4 预训练数据的选择（如规模、模态、格式）如何影响下游任务上的微调性能？
• RQ5 在大规模未标注生物信号上进行自监督预训练，是否能优于在较小规模、任务特定的有监督数据集上进行有监督预训练？

主要发现

• 原始 BIOT 模型在 CHB-MIT 癫痫检测任务中，相比强基线模型，平衡准确率提升了 3%。
• 在下游任务上微调的预训练 BIOT 模型，相比未预训练的基线模型，平衡准确率最高提升 4%。
• 在 500 万 PREST 和 500 万 SHHS EEG 样本上进行联合预训练（PREST+SHHS），显著提升了下游 EEG 任务的性能，相比从零开始训练。
• 在更大规模的 12 导联 ECG 数据（Cardiology-12）上进行预训练，性能优于仅使用 6 导联数据（Cardiology-6），证明了使用更多数据的优势。
• 在癫痫相关数据集（如 IIIC Seizure、TUAB）上进行有监督预训练，相比在睡眠或静息 EEG 数据上进行无监督预训练，能在 TUEV 癫痫检测任务上取得更优性能。
• 在全部六个 EEG 数据集上预训练的模型（6 EEG datasets）优于无监督和有监督预训练的变体，表明全面多源预训练的优势。