[論文レビュー] sEMG Gesture Recognition with a Simple Model of Attention

David Josephs, Carson Drake+2 more|arXiv (Cornell University)|Jun 5, 2020

Muscle activation and electromyography studies被引用数 6

ひとこと要約

本稿では、表面筋電図（sEMG）のジェスチャー認識のためのシンプルでフォワードプロパゲーション型のアテンションベースのニューラルネットワークを提案し、NinaPro DB4 や DB5 といった標準ベンチマークで最先端の性能を達成した。生の sEMG 信号を高次元空間に拡張し、アテンション機構を用いて重要な空間時間的特徴を抽出することで、複雑な CNN や RNN ベースのモデルを上回る高い精度を実現した。軽量なアーキテクチャでありながら、優れた性能を発揮した。

ABSTRACT

Myoelectric control is one of the leading areas of research in the field of robotic prosthetics. We present our research in surface electromyography (sEMG) signal classification, where our simple and novel attention-based approach now leads the industry, universally beating more complex, state-of-the-art models. Our novel attention-based model achieves benchmark leading results on multiple industry-standard datasets including 53 finger, wrist, and grasping motions, improving over both sophisticated signal processing and CNN-based approaches. Our strong results with a straightforward model also indicate that sEMG represents a promising avenue for future machine learning research, with applications not only in prosthetics, but also in other important areas, such as diagnosis and prognostication of neurodegenerative diseases, computationally mediated surgeries, and advanced robotic control. We reinforce this suggestion with extensive ablative studies, demonstrating that a neural network can easily extract higher order spatiotemporal features from noisy sEMG data collected by affordable, consumer-grade sensors.

研究の動機と目的

• sEMG に基づくジェスチャー認識のためのシンプルで効果的なディーブラーニングモデルを開発し、複雑な最先端のアーキテクチャを上回ること。
• 複雑なアーキテクチャに依存せずに、ノイズが多く低コストな sEMG 信号からアテンション機構が空間時間的特徴を効果的に抽出できるかを検証すること。
• 最小限のニューラルネットワークにアテンション層を組み込むことで、ベンチマークを上回る性能を達成できることを示し、高度な信号処理や深層アーキテクチャへの依存を減らすこと。
• 一般消費者向けの sEMG センサーを用いて、人工肢の高精度なミオエレクトリック制御や、より広範な臨床応用が可能かどうかを検討すること。

提案手法

• モデルは、アテンション機構を適用する前に特徴次元を拡張する初期拡張層を備えたフォワードプロパゲーション型ニューラルネットワークを採用している。
• アテンション層は、拡張された sEMG データからクエリ、キー、値のベクトルを計算し、時間的・チャネル的次元で動的な重要度重みを学習する。
• アテンション機構により、拡張された表現を、分類に適した低次元で情報量の多い表現に圧縮する。
• 分類に適した、シンプルな3層のフォワードプロパゲーション型分類器ネットワークを用いてジェスチャーを予測し、その必要性をアブレーションスタディで評価している。
• すべてのアブレーション実験で固定されたハイパーパramータを用いて、標準的な交差エントロピー損失を用いてエンドツーエンドで学習している。
• アブレーションスタディでは、拡張層の種別、アテンションの近似手法、分類器の深さ、正規化・活性化関数の影響を検証している。

実験結果

リサーチクエスチョン

• RQ1 シンプルでフォワードプロパゲーション型のアテンション機構は、sEMG ジェスチャー認識において、複雑な CNN や RNN ベースのモデルを上回ることができるか？
• RQ2 アテンション機構は、個人差やセンサのずれに対しても、不変で低次元の sEMG 信号表現を効果的に学習できるか？
• RQ3 拡張層が、アテンション機構が意味のある空間時間的特徴を学習できるようにするために、どの程度重要か？
• RQ4 アテンションベースの特徴抽出と組み合わせた場合、最小限の分類器ネットワークがどの程度の高精度を達成できるか？
• RQ5 活性化関数や正規化層の選択が、sEMG データにおけるモデル性能に顕著な影響を与えるか？

主な発見

• 提案されたアテンションベースのモデルは、NinaPro DB4 および DB5 データセットの両方で最先端の精度を達成し、より複雑な CNN や RNN ベースのモデルを上回った。
• 分類器ネットワークを別途設けない状態でも、約 91% の精度を達成しており、アテンション層自体が非常に情報量の多い表現を学習していることが示された。
• 1つの500ユニットの分類器層を追加しても精度に向上は見られなかったが、3層に増加させると明確な性能向上が得られた。これは、表現が分離可能で学習可能であることを示唆している。
• アテンション機構は、時間方向に合算するなど、他の近似手法よりも顕著に優れており、特にバランス精度において顕著な差を示した。
• 完全結合層または1次元畳み込み層としての拡張層は、測定可能な正の効果を示しており、特徴空間の変換が性能向上に不可欠であることがわかった。
• レイヤー正規化と Mish 活性化関数は、バランス精度にわずかだが一貫した向上効果を示しており、微細な最適化の恩恵があることが示唆された。