[论文解读] Team Cogitat at NeurIPS 2021: Benchmarks for EEG Transfer Learning Competition

Stylianos Bakas, Siegfried Ludwig+6 more|arXiv (Cornell University)|Feb 1, 2022

EEG and Brain-Computer Interfaces被引用 5

一句话总结

该论文提出了一种用于EEG迁移学习的深度学习方法，通过统计与深度集合特征对齐来减少跨被试和会话的协变量偏移。通过在多个网络层（尤其是通过输入标准化和可学习读出变换）对齐特征分布，该方法实现了最先进性能，在NeurIPS 2021 BEETL竞赛中，睡眠阶段分类任务的未加权平均召回率达到65.55%，运动想象任务达到76.33%。

ABSTRACT

Building subject-independent deep learning models for EEG decoding faces the challenge of strong covariate-shift across different datasets, subjects and recording sessions. Our approach to address this difficulty is to explicitly align feature distributions at various layers of the deep learning model, using both simple statistical techniques as well as trainable methods with more representational capacity. This follows in a similar vein as covariance-based alignment methods, often used in a Riemannian manifold context. The methodology proposed herein won first place in the 2021 Benchmarks in EEG Transfer Learning (BEETL) competition, hosted at the NeurIPS conference. The first task of the competition consisted of sleep stage classification, which required the transfer of models trained on younger subjects to perform inference on multiple subjects of older age groups without personalized calibration data, requiring subject-independent models. The second task required to transfer models trained on the subjects of one or more source motor imagery datasets to perform inference on two target datasets, providing a small set of personalized calibration data for multiple test subjects.

研究动机与目标

• 解决在不同数据集、被试和记录会话之间，被试无关EEG解码中强烈的协变量偏移问题。
• 通过显式对齐深度神经网络多个层的特征分布，提升EEG迁移学习性能。
• 开发一种可复现、鲁棒的EEG迁移学习框架，在有限或无个性化校准数据条件下表现良好。
• 在NeurIPS 2021 BEETL竞赛中，于睡眠阶段分类与运动想象任务上均取得顶尖表现。

提出的方法

• 采用空洞卷积、可分离卷积并减少参数量的改进版EEGInception架构，以在保持表征能力的同时最小化过拟合。
• 在每一层使用通道级均值与标准差（基于试验和被试计算）进行统计特征对齐，以标准化特征分布。
• 采用可学习的深度集合模块，对试验进行均值读出，通过非线性变换进行降维，并将结果拼接至每个特征向量以实现优化。
• 在源数据与校准数据上联合训练，并对校准集进行过采样，以在优化过程中平衡类别与被试的贡献。
• 在输入信号层面，对每个被试的试验进行标准化，以在特征提取前对齐原始EEG功率分布。
• 通过平均logits对10折交叉验证的模型预测结果进行堆叠，以提升泛化能力与测试性能。

实验结果

研究问题

• RQ1 统计与可学习的特征对齐方法是否能有效减少EEG迁移学习中跨被试与会话的协变量偏移？
• RQ2 在CNN的多个层进行特征对齐，对被试无关EEG解码任务的性能有何影响？
• RQ3 输入级标准化在多大程度上能提升在多样化数据集上训练的EEG模型的泛化能力？
• RQ4 一个共享特征提取与数据集特定分类器的统一模型，能否在极少校准数据下良好泛化于多个运动想象数据集？

主要发现

• 未使用对齐的基线模型在睡眠阶段分类任务中仅取得56.87%的未加权平均召回率（UAR），表明由于协变量偏移存在显著改进空间。
• 加入统计特征对齐后，睡眠任务的交叉验证UAR提升至67.70%，证明分布对齐带来显著性能增益。
• 最终集成模型在睡眠分期测试集上达到65.55%的UAR，证实了对齐方法在真实部署中的有效性。
• 对于运动想象任务，基线模型在交叉验证中得分为63.72% UAR，加入统计与深度集合对齐后提升至72.44%。
• 最终模型在运动想象测试集上达到76.33% UAR，超越竞赛其他方法，验证了该方法的鲁棒性。
• 输入级标准化与深层特征的深度集合优化相结合，在被试无关与个性化迁移学习场景中均带来一致性能增益。