[論文レビュー] Deep Residual Bidir-LSTM for Human Activity Recognition Using Wearable Sensors

Yu Zhao, Rennong Yang+2 more|arXiv (Cornell University)|Aug 22, 2017

Context-Aware Activity Recognition Systems参考文献 23被引用数 23

ひとこと要約

本稿では、ウェアラブルセンサーを用いた人間行動認識のための深層残差双方向LSTMネットワークを提案する。双方向LSTMセルを組み合わせて過去および未来の両方の時間的文脈を捉え、残差接続を用いて消失勾配を軽減する。提案手法は、先行研究の手法よりもOpportunityデータセットで4.78%、UCI HARデータセットで3.68%の精度向上を達成した。

ABSTRACT

Human activity recognition (HAR) has become a popular topic in research because of its wide application. With the development of deep learning, new ideas have appeared to address HAR problems. Here, a deep network architecture using residual bidirectional long short-term memory (LSTM) cells is proposed. The advantages of the new network include that a bidirectional connection can concatenate the positive time direction (forward state) and the negative time direction (backward state). Second, residual connections between stacked cells act as highways for gradients, which can pass underlying information directly to the upper layer, effectively avoiding the gradient vanishing problem. Generally, the proposed network shows improvements on both the temporal (using bidirectional cells) and the spatial (residual connections stacked deeply) dimensions, aiming to enhance the recognition rate. When tested with the Opportunity data set and the public domain UCI data set, the accuracy was increased by 4.78% and 3.68%, respectively, compared with previously reported results. Finally, the confusion matrix of the public domain UCI data set was analyzed.

研究の動機と目的

• ウェアラブルセンサーのデータを用いた人間行動認識の精度向上を目的とする。
• HARにおける深層再帰的ネットワークの消失勾配問題を解決することを目的とする。
• 双方向LSTMを用いて前向きおよび後向きの時間的依存関係を活用することを目的とする。
• ネットワークアーキテクチャにおける深層残差接続を活用し、特徴表現の学習を強化することを目的とする。
• 提案モデルを標準的なHARベンチマークデータセット上で検証することを目的とする。

提案手法

• モデルは、順方向および逆方向の両方向にシーケンスを処理する双方向長短期記憶（LSTM）セルを採用し、包括的な時間的文脈を捉える。
• LSTM層の間に残差接続をスタックすることで、勾配の直接的な伝播を可能にし、深層ネットワークにおける学習安定性を向上させる。
• アーキテクチャは、時間的モデリングのための双方向処理と、深層ネットワーク最適化のための残差学習を統合する。
• 適応的学習率を用いた確率的勾配降下法により、ウェアラブルセンサーのデータ上でエンドツーエンドで学習を行う。
• 最終表現の強化のため、順方向および逆方向のLSTM隠れ状態を特徴レベルで連結する。
• 標準的な交差検証プロトコルを用いて、OpportunityおよびUCI HARデータセットでモデルを評価する。

実験結果

リサーチクエスチョン

• RQ1 センサーシーケンスにおける過去および未来の文脈を捉えることで、双方向LSTMが行動認識の精度向上に寄与するか？
• RQ2 深層双方向LSTMアーキテクチャに残差接続を統合することで、消失勾配の影響が軽減され、性能が向上するか？
• RQ3 提案された深層残差双方向LSTMは、標準的なHARベンチマークにおいて最先端のモデルと比較してどうなるか？
• RQ4 残差接続は、ウェアラブルセンサーのデータにおける長距離時間的依存関係の学習にどのような影響を及ぼすか？
• RQ5 モデルは、異なるセンサーモダリティおよび行動クラスにわたって良好に一般化するか？

主な発見

• 提案された深層残差双方向LSTMは、以前に報告された結果と比較して、Opportunityデータセットで4.78%の精度向上を達成した。
• UCI HARデータセットでは、先行する最先端手法と比較して3.68%の認識精度向上を達成した。
• UCIデータセットにおける混同行列分析から、すべての行動クラスで一貫した性能が得られ、類似行動同士の誤分類が最小限に抑えられていた。
• 残差接続は、深層アーキテクチャにおける学習収束およびモデル安定性を顕著に改善した。
• 双方向設計は、長期間の時間的依存関係を効果的に捉えており、複雑で順序的な行動の認識を向上させた。
• モデルは、多様なセンサーデータおよび行動タイプにわたって、強靭性と一般化性能を示した。