[논문 리뷰] sEMG Gesture Recognition with a Simple Model of Attention

David Josephs, Carson Drake외 2명|arXiv (Cornell University)|2020. 06. 05.

Muscle activation and electromyography studies인용 수 6

한 줄 요약

이 논문은 표면 근전도(sEMG) 자세 인식을 위한 단순한 피드포워드 주의 기반 신경망을 제안하며, NinaPro DB4 및 DB5와 같은 표준 벤치마크에서 최신 기술 수준(SOTA) 성능을 달성한다. 원시 sEMG 신호를 고차원 공간으로 확장하고 주의 메커니즘을 적용하여 핵심 시공간 특징을 압축함으로써, 복잡한 CNN 및 RNN 기반 모델보다도 경량 아키텍처로도 뛰어난 정확도를 달성한다.

ABSTRACT

Myoelectric control is one of the leading areas of research in the field of robotic prosthetics. We present our research in surface electromyography (sEMG) signal classification, where our simple and novel attention-based approach now leads the industry, universally beating more complex, state-of-the-art models. Our novel attention-based model achieves benchmark leading results on multiple industry-standard datasets including 53 finger, wrist, and grasping motions, improving over both sophisticated signal processing and CNN-based approaches. Our strong results with a straightforward model also indicate that sEMG represents a promising avenue for future machine learning research, with applications not only in prosthetics, but also in other important areas, such as diagnosis and prognostication of neurodegenerative diseases, computationally mediated surgeries, and advanced robotic control. We reinforce this suggestion with extensive ablative studies, demonstrating that a neural network can easily extract higher order spatiotemporal features from noisy sEMG data collected by affordable, consumer-grade sensors.

연구 동기 및 목표

• 복잡한 최신 기술 수준 아키텍처보다 뛰어난 성능을 내는 단순하고 효과적인 딥 러닝 모델을 개발하는 것.
• 복잡한 아키텍처에 의존하지 않고도 주의 메커니즘이 노이즈가 많고 저가의 sEMG 신호로부터 시공간 특징을 효과적으로 추출할 수 있는지 조사하는 것.
• 최소한의 신경망에 주의 레이어를 통합함으로써 벤치마크 수준의 성능을 달성할 수 있음을 보여주는 것. 이는 고도의 신호 처리나 깊은 아키텍처에 대한 의존도를 줄이는 데 기여한다.
• 소비자용 sEMG 센서를 사용하여 보철물의 고정밀 근전도 제어 및 더 넓은 임상 적용 분야에서의 가능성을 탐색하는 것.

제안 방법

• 모델는 주의 메커니즘을 적용하기 전에 특징 차원을 증가시키기 위해 초기 확장 레이어를 갖춘 피드포워드 신경망을 사용한다.
• 주의 레이어는 확장된 sEMG 데이터로부터 쿼리, 키, 밸류 벡터를 계산하여 시간과 채널 간의 동적 중요도 가중치를 학습한다.
• 주의 메커니즘은 확장된 표현을 더 낮은 차원의 정보성 있는 표현으로 압축하여 분류에 적합한 형태로 만든다.
• 간단한 3층 피드포워드 분류기 네트워크를 사용하여 주의 표현에서 자세를 예측하며, 필요성을 평가하기 위해 추론 실험을 실시한다.
• 모델는 모든 추론 실험에서 고정된 초모수를 사용하여 표준 교차 엔트로피 손실을 통해 엔드 투 엔드로 훈련된다.
• 추론 실험은 확장 레이어 유형, 주의 근사 방법, 분류기 깊이, 정규화/활성화 함수의 영향을 테스트한다.

실험 결과

연구 질문

• RQ1 단순한 피드포워드 주의 메커니즘이 sEMG 자세 인식에서 복잡한 CNN 및 RNN 기반 모델보다 뛰어난 성능을 낼 수 있는가?
• RQ2 주의 메커니즘이 개인 간 차이와 센서 이동에 대해 불변적인 저차원 표현을 효과적으로 학습할 수 있는가?
• RQ3 확장 레이어가 주의 메커니즘이 의미 있는 시공간 특징을 학습하는 데 핵심적인 역할을 하는가?
• RQ4 주의 기반 특징 추출과 결합했을 때 최소한의 분류기 네트워크가 얼마나 높은 정확도를 달성할 수 있는가?
• RQ5 활성화 함수나 정규화 레이어의 선택이 sEMG 데이터에서 모델 성능에 상당한 영향을 미치는가?

주요 결과

• 제안된 주의 기반 모델은 NinaPro DB4 및 DB5 데이터셋에서 모두 최신 기술 수준의 정확도를 달성하며, 더 복잡한 CNN 및 RNN 기반 모델보다 뛰어난 성능을 보였다.
• 전용 분류기 네트워크 없이도 모델이 약 91%의 정확도를 달성함으로써, 주의 레이어 자체가 매우 정보성 있는 표현을 학습하고 있음을 시사한다.
• 단일 500유닛 분류기 레이어를 추가해도 정확도 향상이 없었지만, 3개 레이어로 증가시켰을 때는 유의미한 성능 향상이 있었으며, 이는 표현이 분리되어 있고 학습 가능하다는 것을 시사한다.
• 주의 메커니즘이 시간 축으로 합산하거나 단순한 주의 공식을 사용하는 것과 같은 대체 방법보다 뚜렷이 뛰어난 성능을 보였으며, 특히 균형 정확도에서 두드러졌다.
• 완전 연결 또는 1D 컨볼루션을 사용한 확장 레이어 모두가 유의미한 긍정적 영향을 미쳐, 특징 공간 변환의 중요성이 성능에 결정적임을 입증했다.
• 레이어 정규화와 Mish 활성화 함수는 균형 정확도에서 작은 그러나 일관된 향상을 가져왔으며, 미세한 그러나 의미 있는 최적화 이점이 있음을 시사한다.