[论文解读] sEMG Gesture Recognition with a Simple Model of Attention

David Josephs, Carson Drake+2 more|arXiv (Cornell University)|Jun 5, 2020

Muscle activation and electromyography studies被引用 6

一句话总结

本文提出了一种简单、前馈式的注意力机制神经网络，用于表面肌电信号（sEMG）手势识别，在NinaPro DB4和DB5等标准基准数据集上实现了最先进性能。通过将原始sEMG信号扩展到高维空间，并应用注意力机制提取关键的时空特征，该模型以轻量化架构实现了领先精度，优于复杂的卷积神经网络（CNN）和循环神经网络（RNN）模型。

ABSTRACT

Myoelectric control is one of the leading areas of research in the field of robotic prosthetics. We present our research in surface electromyography (sEMG) signal classification, where our simple and novel attention-based approach now leads the industry, universally beating more complex, state-of-the-art models. Our novel attention-based model achieves benchmark leading results on multiple industry-standard datasets including 53 finger, wrist, and grasping motions, improving over both sophisticated signal processing and CNN-based approaches. Our strong results with a straightforward model also indicate that sEMG represents a promising avenue for future machine learning research, with applications not only in prosthetics, but also in other important areas, such as diagnosis and prognostication of neurodegenerative diseases, computationally mediated surgeries, and advanced robotic control. We reinforce this suggestion with extensive ablative studies, demonstrating that a neural network can easily extract higher order spatiotemporal features from noisy sEMG data collected by affordable, consumer-grade sensors.

研究动机与目标

• 开发一种简单而有效的深度学习模型，用于基于sEMG的手势识别，其性能超越复杂的最先进架构。
• 探究注意力机制是否能在不依赖复杂架构的前提下，有效从噪声大、成本低的sEMG信号中提取时空特征。
• 证明仅通过一个最小化的神经网络结构（含注意力层）即可实现基准测试领先的性能，从而减少对复杂信号处理或深层网络架构的依赖。
• 探索使用消费级sEMG传感器实现高精度肌电控制在假肢及更广泛临床应用中的可行性。

提出的方法

• 该模型采用前馈神经网络，通过初始扩展层提升特征维度，随后应用注意力机制。
• 注意力层从扩展后的sEMG数据中计算查询（query）、键（key）和值（value）向量，以学习时间与通道维度上的动态重要性权重。
• 注意力机制用于将扩展后的表示压缩为低维、信息丰富的表示，适用于分类任务。
• 使用一个简单的三层前馈分类网络，从注意力表示中预测手势类别，并通过消融实验评估其必要性。
• 模型采用端到端训练，使用标准交叉熵损失函数，所有消融实验中保持超参数固定。
• 消融实验测试了扩展层类型、注意力近似方法、分类器深度以及归一化/激活函数的影响。

实验结果

研究问题

• RQ1 一个简单、前馈式的注意力机制是否能在sEMG手势识别任务中超越复杂的CNN和RNN模型？
• RQ2 注意力机制是否能有效学习到在不同个体和传感器偏移下保持不变的、低维的sEMG信号表示？
• RQ3 扩展层在使注意力机制学习有意义的时空特征方面有多关键？
• RQ4 当与基于注意力的特征提取结合时，最小化分类器网络在多大程度上可实现高精度？
• RQ5 激活函数或归一化层的选择是否显著影响模型在sEMG数据上的性能？

主要发现

• 所提出的注意力机制模型在NinaPro DB4和DB5数据集上均实现了最先进精度，优于更复杂的CNN和RNN模型。
• 即使不使用专用分类器网络，该模型仍能达到约91%的准确率，表明注意力层本身已学习到高度信息丰富的表示。
• 添加单个500单位的分类器层并未提升准确率，但增至三层后性能出现可测量的提升，表明表示具有解耦性且可学习。
• 注意力机制显著优于其他近似方法（如时间维度求和或使用简化注意力形式），尤其在平衡准确率方面表现更优。
• 无论采用全连接层还是1D卷积层，扩展层均产生可测量的正向影响，表明特征空间变换对性能至关重要。
• 层归一化和Mish激活函数在平衡准确率上带来微小但一致的提升，表明存在细微但有意义的优化收益。