[論文レビュー] WSense: A Robust Feature Learning Module for Lightweight Human Activity Recognition

Ayokunle Olalekan Ige, Mohd Halim Mohd Noor|arXiv (Cornell University)|Mar 31, 2023

Context-Aware Activity Recognition Systems被引用数 4

ひとこと要約

WSenseは、ウェアラブルセンサデータを用いた人間の活動認識（HAR）を向上させる軽量でパラメータ効率の良い特徴学習モジュールです。2つの1次元畳み込みニューラルネットワーク（1D CNN）とグローバルマックスプーリングを用いて、窓サイズに依存しない頑健な特徴を抽出し、WISDMおよびPAMAP2データセットにおいて、モデルサイズを最小限に抑えながら、さまざまなスライディングウィンドウサイズでベースラインを上回る性能を発揮しました。

ABSTRACT

In recent times, various modules such as squeeze-and-excitation, and others have been proposed to improve the quality of features learned from wearable sensor signals. However, these modules often cause the number of parameters to be large, which is not suitable for building lightweight human activity recognition models which can be easily deployed on end devices. In this research, we propose a feature learning module, termed WSense, which uses two 1D CNN and global max pooling layers to extract similar quality features from wearable sensor data while ignoring the difference in activity recognition models caused by the size of the sliding window. Experiments were carried out using CNN and ConvLSTM feature learning pipelines on a dataset obtained with a single accelerometer (WISDM) and another obtained using the fusion of accelerometers, gyroscopes, and magnetometers (PAMAP2) under various sliding window sizes. A total of nine hundred sixty (960) experiments were conducted to validate the WSense module against baselines and existing methods on the two datasets. The results showed that the WSense module aided pipelines in learning similar quality features and outperformed the baselines and existing models with a minimal and uniform model size across all sliding window segmentations. The code is available at https://github.com/AOige/WSense.

研究の動機と目的

• リソース制約のあるエッジデバイスへのデプロイを妨げる、 squeeze-and-excitation のような注目メカニズムを備えた既存の特徴学習モジュールにおける高いパラメータ数を是正すること。
• ウェアラブルセンサベースのHARにおいて、さまざまなスライディングウィンドウサイズにわたって高い性能を維持できる特徴学習モジュールの開発。
• 入力ウィンドウのセグメンテーションにかかわらず一貫した特徴品質を保証し、モデルの頑健性を向上させること。
• モデルの複雑さを低減しながら、加速度計およびマルチモーダルセンサデータの認識精度を維持または向上させること。
• 最小限で均一なモデルサイズを実現することで、エッジデバイスにおけるHARモデルの効率的デプロイを可能にすること。

提案手法

• WSenseは、生のウェアラブルセンサ信号から階層的な時系列特徴を抽出するために、2つの1次元畳み込み層を用いる。
• 各1次元畳み込み層の後にグローバルマックスプーリングを適用し、空間次元を低減するとともに顕著な特徴を保持する。
• このモジュールは、入力スライディングウィンドウのサイズに対して無関係であるように設計されており、さまざまなウィンドウセグメンテーションにおいて一貫した特徴表現を保証する。
• 評価のため、マルチモーダルおよび単一センサデータセットに対して、CNNおよびConvLSTMパイプラインにこのアーキテクチャを統合する。
• 標準的な交差エントロピー損失を用いてエンドツーエンドで学習し、確率的勾配降下法で最適化する。
• 設計の重点はパラメータ効率に置かれており、注目メカニズムや重い正規化層を避けることで、モデルサイズを最小限に抑える。

実験結果

リサーチクエスチョン

• RQ1 ウェアラブルセンサベースのHARにおいて、軽量な特徴学習モジュールは、さまざまなスライディングウィンドウサイズで高い性能を維持できるか？
• RQ2 WSenseは、顕著に少ないパラメータで、既存の注目メカニズムを備えたモジュールと同等またはそれ以上の精度を達成できるか？
• RQ3 WSenseは、異なるセンサデータセットにおけるCNNおよびConvLSTMアーキテクチャに統合された場合、どのように性能を発揮するか？
• RQ4 WSenseの特徴表現は、入力ウィンドウ長やセンサモダリティの変化に対して頑健か？
• RQ5 最小限で均一なモデルサイズのおかげで、WSenseはエッジデバイスへのHARモデルの効率的デプロイを可能にするか？

主な発見

• WSenseは、WISDMおよびPAMAP2データセットで実施された960回の実験すべてにおいて、ベースラインモデルと比較して優れたまたは同等の精度を達成した。
• このモジュールは、テストされたすべてのスライディングウィンドウサイズで一貫した性能を維持し、入力セグメンテーションの変化に対して頑健であることを示した。
• squeeze-and-excitation のような注目メカニズムを備えたモジュールと比較して、WSenseは顕著にモデルサイズを削減し、エッジデバイスへの効率的デプロイを可能にした。
• PAMAP2データセットでは、パラメータ数を減らしながらも、既存の手法を上回る精度を達成した。
• CNNおよびConvLSTMパイプラインへのWSenseの統合により、モデルの複雑さを増加させることなく、特徴学習の質が向上した。
• グローバルマックスプーリング機構は、計算オーバーヘッドを低減しながらも、特徴の識別能を効果的に保持した。