[论文解读] Self-supervised Learning for Electroencephalogram: A Systematic Survey

Weining Weng, Yang Gu+5 more|arXiv (Cornell University)|Jan 9, 2024

EEG and Brain-Computer Interfaces被引用 5

一句话总结

对自监督学习（SSL）在 EEG 分析中的系统性综述，提供分类法、方法论、下游任务、数据集和未来方向。

ABSTRACT

Electroencephalogram (EEG) is a non-invasive technique to record bioelectrical signals. Integrating supervised deep learning techniques with EEG signals has recently facilitated automatic analysis across diverse EEG-based tasks. However, the label issues of EEG signals have constrained the development of EEG-based deep models. Obtaining EEG annotations is difficult that requires domain experts to guide collection and labeling, and the variability of EEG signals among different subjects causes significant label shifts. To solve the above challenges, self-supervised learning (SSL) has been proposed to extract representations from unlabeled samples through well-designed pretext tasks. This paper concentrates on integrating SSL frameworks with temporal EEG signals to achieve efficient representation and proposes a systematic review of the SSL for EEG signals. In this paper, 1) we introduce the concept and theory of self-supervised learning and typical SSL frameworks. 2) We provide a comprehensive review of SSL for EEG analysis, including taxonomy, methodology, and technique details of the existing EEG-based SSL frameworks, and discuss the difference between these methods. 3) We investigate the adaptation of the SSL approach to various downstream tasks, including the task description and related benchmark datasets. 4) Finally, we discuss the potential directions for future SSL-EEG research.

研究动机与目标

• 通过利用 SSL，解决 EEG 分析中的标签稀缺性和跨被试变异性。
• 提供 EEG 基于 SSL 框架的综合分类法和方法学概览。
• 检验 SSL 如何使表征可转移到多样的 EEG 下游任务。
• 识别数据集、评估基准和未来方向用于 SSL-EEG 研究。

提出的方法

• 在 EEG 场景中解释 SSL 基本原理和编码器/解码器。
• 将 EEG SSL 方法分为预测、生成、对比和混合类别。
• 详细说明用于 EEG SSL 的空间、时间和基于变换的伪任务（pretext tasks）。
• 描述预训练和下游微调步骤及训练模式。
• 概述 SSL 目标和损失函数的数学表述。
• 呈现对 EEG SSL 框架及其任务适应性的结构化综述。

实验结果

研究问题

• RQ1 哪些 SSL 策略在无标签情况下学习 EEG 表征方面最有效？
• RQ2 如何为 EEG 分析对 SSL 框架进行分类，以及每个类别的权衡是什么？
• RQ3 哪些下游 EEG 任务可从 SSL 派生的表示中受益，哪些数据集能说明这一点？
• RQ4 EEG 中 SSL 的未来方向与挑战有哪些？
• RQ5 伪任务如何与 EEG 信号特征（时序、空间、频域）对齐？

主要发现

• SSL 方法能够在无标签数据的情况下学习有意义的 EEG 表征，涵盖情感识别、癫痫检测和睡眠分期等任务。
• EEG SSL 被分类为预测、生成、对比和混合方法，每种方法都具有不同的伪任务和损失。
• 空间、时间和基于变换的伪任务捕捉 EEG 信号的不同方面并提升下游性能。
• 时序和通道维度的增强，以及如 InfoNCE 之类的对比损失，对于学习鲁棒的 EEG 表征有效。
• 一个系统的分类法和面向基准的讨论为未来的 SSL-EEG 研究和数据集考虑提供指导。