[論文レビュー] Unsupervised Statistical Feature-Guided Diffusion Model for Sensor-based Human Activity Recognition

Si Zuo, Vítor Fortes Rey+3 more|arXiv (Cornell University)|May 30, 2023

Anomaly Detection Techniques and Applications被引用数 4

ひとこと要約

本稿では、ラベルなしデータを必要とせず、人間活動認識（HAR）のための高品質な合成センサー時系列データを生成する、統計的特徴で誘導される非教師付き拡散モデル（SF-DM）を提案する。平均、標準偏差、Zスコア、歪度といった統計的特徴で拡散プロセスを条件づけることで、多様で現実的ないずれの合成データも生成され、HAR分類器の性能が顕著に向上し、SMOTE、SVM-SMOTE、TimeGANを凌駕する。複数のベンチマークデータセットで評価された。

ABSTRACT

Human activity recognition (HAR) from on-body sensors is a core functionality in many AI applications: from personal health, through sports and wellness to Industry 4.0. A key problem holding up progress in wearable sensor-based HAR, compared to other ML areas, such as computer vision, is the unavailability of diverse and labeled training data. Particularly, while there are innumerable annotated images available in online repositories, freely available sensor data is sparse and mostly unlabeled. We propose an unsupervised statistical feature-guided diffusion model specifically optimized for wearable sensor-based human activity recognition with devices such as inertial measurement unit (IMU) sensors. The method generates synthetic labeled time-series sensor data without relying on annotated training data. Thereby, it addresses the scarcity and annotation difficulties associated with real-world sensor data. By conditioning the diffusion model on statistical information such as mean, standard deviation, Z-score, and skewness, we generate diverse and representative synthetic sensor data. We conducted experiments on public human activity recognition datasets and compared the method to conventional oversampling and state-of-the-art generative adversarial network methods. Experimental results demonstrate that this can improve the performance of human activity recognition and outperform existing techniques.

研究の動機と目的

• 人間活動認識（HAR）における入手困難で高コストなラベル付きセンサー時系列データの課題に対処すること。
• ラベルに依存せずに、実際のセンサー時系列データの時間的および統計的性質を保持するデータ生成手法を開発すること。
• ラベルなしの実データから生成された合成データを活用することで、HARモデルの性能を向上させること。
• 統計的特徴で誘導される条件づけの有効性が、生成されたセンサー時系列データの質と多様性をどの程度向上させるかを評価すること。

提案手法

• 本手法は、ラベルなしセンサー時系列データから抽出された統計的特徴（平均、標準偏差、Zスコア、歪度）で条件づけられた拡散モデルを採用する。
• 2段階の訓練フレームワークを用いる：まず、大規模なラベルなしセンサー時系列データ上でSF-DMを事前学習し、次に、少量の実際のラベル付きデータと合成データを用いて別個のHAR分類器をファインチューニングする。
• 拡散モデルは、ノイズを除去するエンコーダ・デコーダアーキテクチャを採用し、統計的特徴の埋め込みによって誘導される。
• 統計的特徴は、センサー時系列データのスライディングウィンドウ（例：MM-FIT、PAMAP2、Opportunityではそれぞれ400、200、200）を対象に計算され、生成プロセス中に条件信号として使用される。
• モデルは、実際のセンサー系列に段階的にノイズを加える前向きの拡散プロセスを逆転させることで学習し、統計的事前知識を用いてノイズから元のデータを再構築する。
• 性能評価は、同一の訓練プロトコル下でSMOTE、SVM-SMOTE、TimeGANと比較し、HARタスクにおける正解率とマクロF1スコアを用いる。

実験結果

リサーチクエスチョン

• RQ1 統計的特徴で条件づけられた非教師付き拡散モデルは、ラベルなしデータを用いてもHAR性能を向上させる合成センサー時系列データを生成できるか？
• RQ2 従来のオーバーサンプリング手法やGANベースの手法と比較して、統計的特徴で誘導される拡散モデルは、多様で代表的なセンサー時系列データをどの程度効果的に生成できるか？
• RQ3 歪度やZスコアなどの統計的特徴の組み込みが、生成された合成時系列データの質と実用性をどの程度向上させるか？
• RQ4 SF-DMで生成された合成データを事前学習に用いた場合、実際のラベル付きデータの量が変化するにつれてHAR分類器の性能はどのように変化するか？

主な発見

• MM-FITおよびOpportunityデータセットでは、実データの20％のみを用いても、SF-DMはベースライン比でマクロF1スコアで最大5％の向上を達成した。
• 同じデータセットにおいて、SF-DMはTimeGANをマクロF1スコアで7％から13％上回り、一般化性能とデータ品質に優れていることが示された。
• PAMAP2データセットでは、SF-DMはベースラインと同等の性能を維持し、わずかに優れた性能を示したが、劣化は観察されなかった。
• アブレーションスタディでは、SF-DM[Corresp.P]（ラベルではなく統計的特徴を用いる）が、特にデータが少ない状況でCC-DM（クラス条件付き拡散モデル）を一貫して上回った。
• 限られたラベルなしデータで学習した場合、SF-DMの性能が低下したため、安定した拡散モデルの訓練には十分なデータ量が必要であることが示された。
• 本手法はクラス不均衡の処理においても頑健であり、正解率よりもマクロF1スコアが信頼性が高いことが判明した。SF-DMは、複数のデータセットで一貫してマクロF1スコアを向上させた。