[论文解读] Applying Transfer Learning To Deep Learned Models For EEG Analysis

Axel Uran, Coert van Gemeren+3 more|arXiv (Cornell University)|Jul 2, 2019

EEG and Brain-Computer Interfaces参考文献 24被引用 18

一句话总结

本文提出了一种用于EEG信号分类的深度学习模型迁移学习方法，利用大规模数据集预训练的特征，在标注数据有限的情况下提升性能。在BCI竞赛IV 2a数据集上，该方法相较于顶尖的传统机器学习方法性能提升33%；在2b数据集上，通过跨实验迁移学习进一步提升性能18%，实现了在每个受试者或任务中仅需极少数据即可实现稳健分类。

ABSTRACT

The introduction of deep learning and transfer learning techniques in fields such as computer vision allowed a leap forward in the accuracy of image classification tasks. Currently there is only limited use of such techniques in neuroscience. The challenge of using deep learning methods to successfully train models in neuroscience, lies in the complexity of the information that is processed, the availability of data and the cost of producing sufficient high quality annotations. Inspired by its application in computer vision, we introduce transfer learning on electrophysiological data to enable training a model with limited amounts of data. Our method was tested on the dataset of the BCI competition IV 2a and compared to the top results that were obtained using traditional machine learning techniques. Using our DL model we outperform the top result of the competition by 33%. We also explore transferability of knowledge between trained models over different experiments, called inter-experimental transfer learning. This reduces the amount of required data even further and is especially useful when few subjects are available. This method is able to outperform the standard deep learning methods used in the BCI competition IV 2b approaches by 18%. In this project we propose a method that can produce reliable electroencephalography (EEG) signal classification, based on modest amounts of training data through the use of transfer learning.

研究动机与目标

• 通过在神经科学中应用迁移学习于深度学习模型，解决标注EEG数据有限的挑战。
• 在仅具备少量训练数据的情况下，提升EEG信号分类性能。
• 探索跨受试者和实验任务的内部实验与跨实验迁移学习，实现知识迁移。
• 通过使用深度学习和极少数据，在运动想象EEG分类中超越传统机器学习方法。
• 通过可迁移的特征表示，实现在不同EEG实验和范式之间模型的复用与泛化。

提出的方法

• 在大规模EEG数据集上预训练深度卷积神经网络（CNN），以学习通用的低级特征。
• 使用迁移学习策略，在BCI竞赛IV 2a和2b的较小目标数据集上微调预训练模型。
• 实施两种迁移学习变体：'冻结学习'（冻结早期层）和'Split学习'（仅微调后期层），以优化在数据有限情况下的性能。
• 通过在一种实验上预训练并在另一实验上微调，实现跨实验迁移学习，即使两类运动想象任务的类别数不同。
• 在小数据集上微调过程中，使用数据增强和Dropout以减少过拟合。
• 使用Cohen's kappa (κ) 和BCI竞赛数据集的保留测试集准确率评估性能。

实验结果

研究问题

• RQ1 迁移学习是否能提升在训练数据有限情况下的EEG分类深度学习性能？
• RQ2 在运动想象任务中，内部实验迁移学习（跨受试者）如何增强模型泛化能力？
• RQ3 跨实验迁移学习（跨不同实验或任务）是否能进一步降低数据需求？
• RQ4 不同迁移学习策略（如冻结学习与Split学习）与标准训练和分布式学习相比表现如何？
• RQ5 预训练模型在多大程度上能泛化到不同EEG范式或不同运动想象类别数的任务？

主要发现

• 所提出的迁移学习方法在Cohen's kappa评分上比BCI竞赛IV 2a的最优结果高出33%。
• 冻结学习方法表现最佳，紧随其后的是Split学习，这得益于对预训练层中通用特征的有效重用。
• 在2b数据集上，跨实验迁移学习相比标准深度学习方法将性能提升18%，并减少了数据需求。
• 与标准学习相比，标准迁移学习在四运动任务中提升5%，在两运动任务中提升6%，但其性能仍低于冻结学习和Split学习。
• 即使源任务和目标任务的类别数不同，模型在不同运动想象任务之间仍表现出强大的可迁移性。
• 结果表明，跨受试者和实验共享预训练EEG模型，可显著提升性能并降低对数据的依赖，适用于BCI应用。