[論文レビュー] Lightweight Transformer in Federated Setting for Human Activity Recognition

Ali Raza, Kim Phuc Tran+4 more|arXiv (Cornell University)|Oct 1, 2021

Context-Aware Activity Recognition Systems被引用数 4

ひとこと要約

本稿では、プライバシーを強化するため、フェデレーテッドラーニングを用いてホームヘルスケアにおける人間の行動認識（HAR）を実現する軽量なワンパッチTransformerモデル、TransFedを提案する。新たに収集したデータセットを用いた中央集権的環境では99.14%、フェデレーテッド環境では98.74%の精度を達成し、最先端のCNNおよびRNN手法を上回りながら、計算コストを低減した。

ABSTRACT

Human activity recognition (HAR) is a machine learning task with important applications in healthcare especially in the context of home care of patients and older adults. HAR is often based on data collected from smart sensors, particularly smart home IoT devices such as smartphones, wearables and other body sensors. Deep learning techniques like convolutional neural networks (CNNs) and recurrent neural networks (RNNs) have been used for HAR, both in centralized and federated settings. However, these techniques have certain limitations: RNNs cannot be easily parallelized, CNNs have the limitation of sequence length, and both are computationally expensive. Moreover, in home healthcare applications the centralized approach can raise serious privacy concerns since the sensors used by a HAR classifier collect a lot of highly personal and sensitive data about people in the home. In this paper, to address some of such challenges facing HAR, we propose a novel lightweight (one-patch) transformer, which can combine the advantages of RNNs and CNNs without their major limitations, and also TransFed, a more privacy-friendly, federated learning-based HAR classifier using our proposed lightweight transformer. We designed a testbed to construct a new HAR dataset from five recruited human participants, and used the new dataset to evaluate the performance of the proposed HAR classifier in both federated and centralized settings. Additionally, we use another public dataset to evaluate the performance of the proposed HAR classifier in centralized setting to compare it with existing HAR classifiers. The experimental results showed that our proposed new solution outperformed state-of-the-art HAR classifiers based on CNNs and RNNs, whiling being more computationally efficient.

研究の動機と目的

• 中央集権的なデータ収集の代わりにフェデレーテッドラーニングを採用することで、ホームヘルスケアにおけるプライバシー懸念を解決する。
• RNNの並列処理が困難な点（低効率）やCNNのシーケンス長制限といった制限を克服するため、新規の軽量なTransformerアーキテクチャを用いてHARを実現する。
• 大規模な中央集権的データに依存せずに、高い精度を維持しつつ計算効率の高いHARモデルを開発する。
• 5名の参加者が模擬的なホーム環境で15の行動を実行したデータを収集し、新たに公開されたHARデータセットを構築する。
• 実世界のフェデレーテッド環境に一般的に見られる非IID（非独立同分布）データ分布におけるモデルの頑健性を評価する。

提案手法

• 入力シーケンスの1パッチのみを処理することで、パラメータ数と計算量を削減するワンパッチの軽量なTransformerアーキテクチャを提案する。
• 軽量なTransformerを統合したフェデレーテッドラーニングフレームワーク、TransFedを設計し、生のセンサデータを共有せずに分散型デバイス上でモデル学習を可能にする。
• 加速度計、ジャイロスコープ、マグネトメータを身体のさまざまな部位に配置し、最適なデータ収集に適した最大インパルス点（PMIs）を特定するためのテストベッドを実装する。
• 現実的なクライアントデータの偏りを再現するため、フェデレーテッド学習で非IIDデータ分布を用いる。
• 非IID条件下での収束安定性を確保するため、標準的なフェデレーテッド平均化（FedAvg）に加え、FedProxを適用する。
• パブリックなWISDMデータセットと新たに収集したデータセットの両方でモデルを学習・評価し、性能の妥当性を検証する。

実験結果

リサーチクエスチョン

• RQ1 軽量なワンパッチTransformerは、最先端のCNNおよびRNNモデルを上回るHAR精度を達成すると同時に、計算効率も確保できるか？
• RQ2 非IIDデータ分布を想定したフェデレーテッドラーニング環境下で、提案されたTransFedフレームワークはどの程度の性能を示すか？
• RQ3 センサの配置（例：手首、胸、太もも）はHAR性能にどのような影響を及ぼすか？どの配置が最も情報の多い信号を提供するか？
• RQ4 限られた参加者数と多様なデータ分布が見られる実世界のホームヘルスケア環境でも、提案手法は高い精度とプライバシー保護を維持できるか？
• RQ5 パブリックデータセットと新たに収集したデータセットの両方で評価した場合、モデルの性能は既存のHAR手法と比べてどうなるか？

主な発見

• 提案された軽量なTransformerは、新たに収集したデータセットにおいて中央集権的学習で99.14%の精度を達成し、既存のCNNおよびRNNベースの手法を上回った。
• フェデレーテッドラーニング環境では、同じデータセットで98.74%の精度を達成し、分散型で非IIDデータが存在する条件下でも優れた性能を示した。
• WISDMパブリックデータセットでは、中央集権的評価で98.89%の精度を達成し、以前の最先端手法を上回った。
• ワンパッチアーキテクチャのおかげで、標準的なTransformerと比較してパラメータ数と推論コストが削減され、計算効率に優れたことが実証された。
• センサの配置は性能に顕著な影響を及ぼし、各センサタイプごとに最適な配置（PMIs）が特定され、データ品質と分類精度の向上に寄与した。
• 非IIDデータに対して頑健であることが示されたが、クライアントのデータ分布に応じて性能にばらつきが生じた。これは、実際の展開において適応型アグリゲーション戦略の導入が不可欠であることを示唆している。