[論文レビュー] Personalizing Smartwatch Based Activity Recognition Using Transfer Learning

Karanpreet Singh, Rajen B. Bhatt|arXiv (Cornell University)|Sep 3, 2019

Context-Aware Activity Recognition Systems参考文献 12被引用数 4

ひとこと要約

本論文は、再訓練を避けながら、最小限のユーザー固有データを用いて、オンデバイスで事前学習済み勾配ブースティングマシン（GBM）を微調整する転移学習手法を提案する。これにより、スマートウォッチベースの行動認識の精度が向上し、特にベースライン性能が低いユーザーのパーソナライゼーションが顕著に向上する。1つのデータセットにおいて、誤差は最大50％削減され、F1スコアは0.9456から0.9758に上昇した。

ABSTRACT

Smartwatches are increasingly being used to recognize human daily life activities. These devices may employ different kind of machine learning (ML) solutions. One of such ML models is Gradient Boosting Machine (GBM) which has shown an excellent performance in the literature. The GBM can be trained on available data set before it is deployed on any device. However, this data set may not represent every kind of human behavior in real life. For example, a ML model to detect elder and young persons running activity may give different results because of differences in their activity patterns. This may result in decrease in the accuracy of activity recognition. Therefore, a transfer learning based method is proposed in which user-specific performance can be improved significantly by doing on-device calibration of GBM by just tuning its parameters without retraining its estimators. Results show that this method can significantly improve the user-based accuracy for activity recognition.

研究の動機と目的

• 特に高齢者、乳児、行動パターンが特異な患者など、特定のユーザーにおいてスマートウォッチベースの行動認識の精度が低いという課題に対処すること。
• 多様なデータセットで学習された汎用モデルが、個人の行動的差異を捉えきれないという限界を克服すること。
• 再訓練を回避し、感度の高いまたは収集が難しい集団におけるデータ収集負荷を軽減する、軽量でオンデバイスでのパーソナライゼーション手法を開発すること。
• 事前学習済みGBMのパrameterチューニングにより、わずかなラベル付きユーザーデータのみを用いて、ユーザー固有の認識精度を向上させること。

提案手法

• スマートウォッチセンサー（加速度計およびジャイロスコープ）の大量かつ多様なデータセットを用いて、汎用GBMモデルを学習し、ベースラインモデルを確立する。
• ユーザー固有のラベル付きデータをわずかに用いて、オンデバイスでの転移学習により、GBMの最終予測重み（推定器ではなく）のみを微調整する。
• 各弱学習器の最終予測への寄与度を調整することで、GBMの出力スコアを最適化するハイパーパrameterチューニング戦略を適用する。
• 被験者全体にわたるパーソナライゼーション性能を評価するため、ワンユーザー除外交差検証フレームワークを用い、妥当性と一般化性能を確保する。
• GBMの逐次的ブースティングメカニズムを活用し、ユーザー固有データ上で誤差を段階的に是正することで、クラス別精度を向上させる。
• プライバシー保護と計算オーバーヘッドの低減を実現するため、オンデバイスに実装し、リアルタイムでのパーソナライゼーションを可能にする。

実験結果

リサーチクエスチョン

• RQ1 事前学習済みGBMのオンデバイスハイパーパrameterチューニングが、再訓練を伴わずに個々のユーザーの行動認識精度を顕著に向上させることができるか？
• RQ2 本手法は、汎用データで学習されたベースラインGBMと比較して、誤差率をどの程度低減するか？
• RQ3 本手法は、特に「自転車」や「歩行」などの困難な行動クラスにおいて、ベースライン性能が低いユーザーの認識精度をどの程度向上させるか？
• RQ4 収集が難しい集団においても、わずかなユーザー固有データのみで有意義な性能向上を達成できるか？
• RQ5 本手法は、複数の被験者および行動クラスにおいて、F1スコアおよびAUCを維持または向上させるか？

主な発見

• チューニング済みGBMは、被験者#7の「歩行」クラスにおいて、誤差率を相対的に50.2％削減し、正解率を73.65％から94.80％に向上させた。
• データセットIでは、全体のF1スコアがベースラインの0.9456からチューニング後の0.9758に上昇し、絶対値で3.2％の増加を達成した。
• データセットIIでは、全体のF1スコアが0.9307から0.9619に上昇し、被験者#7ではF1スコアが0.8117から0.9671に顕著に向上した。
• 被験者#7の「自転車」クラスにおけるAUCは、チューニング後、0.886から0.982に上昇し、分類能が著しく向上した。
• 被験者#8では、「自転車」クラスの正解率が、ベースラインの83.00％から90.79％に上昇し、ユーザー間で一貫した向上が確認された。
• チューニング後、「自転車」クラスの正解率は96.30％、「歩行」クラスは97.57％に上昇したのに対し、ベースラインではそれぞれ90.14％および94.20％であった。