[論文レビュー] Deep Activity Recognition Models with Triaxial Accelerometers

Mohammad Abu Alsheikh, Ahmed Selim+4 more|arXiv (Cornell University)|Nov 15, 2015

Context-Aware Activity Recognition Systems参考文献 26被引用数 129

ひとこと要約

本稿では、非教師あり事前学習と階層的特徴学習を活用して、浅いモデルを凌駕する、三軸加速度計を用いたより優れた人体活動認識のための深層学習モデルを提案する。本研究では、深層特徴表現と時系列モデリングを統合するハイブリッドDL-HMMアプローチを導入し、順序付き活動認識で99.13%の精度を達成した。これは、最先端の手法を著しく上回るものである。

ABSTRACT

Despite the widespread installation of accelerometers in almost all mobile phones and wearable devices, activity recognition using accelerometers is still immature due to the poor recognition accuracy of existing recognition methods and the scarcity of labeled training data. We consider the problem of human activity recognition using triaxial accelerometers and deep learning paradigms. This paper shows that deep activity recognition models (a) provide better recognition accuracy of human activities, (b) avoid the expensive design of handcrafted features in existing systems, and (c) utilize the massive unlabeled acceleration samples for unsupervised feature extraction. Moreover, a hybrid approach of deep learning and hidden Markov models (DL-HMM) is presented for sequential activity recognition. This hybrid approach integrates the hierarchical representations of deep activity recognition models with the stochastic modeling of temporal sequences in the hidden Markov models. We show substantial recognition improvement on real world datasets over state-of-the-art methods of human activity recognition using triaxial accelerometers.

研究の動機と目的

• 加速度計ベースの活動認識システムにおける認識精度の低さとラベル付きデータの不足を解決すること。
• 手作業で特徴を設計する必要を排除し、深層学習を用いて生加速度データから階層的表現を自動で抽出すること。
• ハイブリッドディープラーニングと隠れマルコフモデル（DL-HMM）フレームワークを通じて、順序付き活動の時系列モデリングを改善すること。
• 非教師あり事前学習と過完備なディープベルiefネットワークが認識性能を向上させる有効性を評価すること。
• 従来の浅いモデルやHMMベースの手法と比較して、実世界のデータセットにおいて優れた性能を示すことを実証すること。

提案手法

• ラベルなし加速度データに対して、制限ボルツマンマシン（RBMs）を用いた深層信念ネットワーク（DBNs）を用いて非教師あり事前学習を行い、深層ネットワークの重みを初期化する。
• ディープニューラルネットワークの出力を隠れマルコフモデルの発生確率として使用するハイブリッドDL-HMMアーキテクチャを採用し、活動の時系列をモデリングする。
• 生加速度信号のスペクトログラム表現を適用して、特徴の多様性を向上させ、モデルの一般化能力を強化する。
• 2段階の学習プロセスを実装する：生成的RBMsによる事前学習の後、誤差逆伝播を用いた判別的ファインチューニング。
• 過完備表現（入力サイズの4倍）を用いて、深層アーキテクチャにおける学習の安定性と性能を向上させる。
• ディープモデルの事後確率をHMMの発生行列として使用し、順序付き活動遷移と初期状態分布をモデリングする。

実験結果

リサーチクエスチョン

• RQ1 非ラベル付き加速度データで訓練された深層学習モデルは、浅いモデルと比較して活動認識精度を向上させることができるか？
• RQ2 RBMsを用いた非教師あり事前学習は、深層活動認識モデルの一般化能力と性能を向上させるか？
• RQ3 加速度信号のスペクトログラム表現は、特徴学習と認識精度をどの程度向上させるか？
• RQ4 独立したHMMや深層モデルと比較して、ハイブリッドDL-HMMフレームワークは、人の活動の時系列をよりよくモデリングできるか？
• RQ5 最適化と認識性能の観点から、過完備な深層アーキテクチャは、不完全なものと比べてどのように異なるか？

主な発見

• 500ニューロンの4層のディープベルiefネットワークは、WISDMデータセットで97.85%の認識精度を達成し、浅いモデルを著しく上回った。
• ハイブリッドDL-HMMアプローチは、Skodaチェックポイントデータセットで99.13%の精度を達成し、標準的なHMMよりも3.38%向上し、ベースライン手法よりも顕著な向上を示した。
• 生成的事前学習により、より深いモデル（5層DBN）では認識精度が最大1.38%向上し、深層ネットワーク最適化におけるその重要性が裏付けられた。
• 過完備表現（4倍入力サイズ）は、特に多くの層を持つ深層アーキテクチャにおいて、より良い学習収束と高い精度を実現した。
• スペクトログラム入力を用いることで、加速度信号の多周波数および非周期的変動を捉えることができ、モデル性能が向上した。
• 学習率0.1で1000エポックにわたり判別的ファインチューニングを実施した結果、テスト精度が著しく向上し、全学習パイプラインの有効性が確認された。