[논문 리뷰] Unsupervised Statistical Feature-Guided Diffusion Model for Sensor-based Human Activity Recognition

Si Zuo, Vítor Fortes Rey외 3명|arXiv (Cornell University)|2023. 05. 30.

Anomaly Detection Techniques and Applications인용 수 4

한 줄 요약

이 논문은 레이블이 없는 데이터가 필요 없이 고품질의 합성 센서 시계열 데이터를 생성하는 비지도 통계적 특징 유도 확산 모델(SF-DM)을 제안한다. 평균, 표준편차, Z-점수, 왜도와 같은 통계적 특징에 조건을 줌으로써 SF-DM은 다양하고 현실적인 합성 데이터를 생성하며, 이는 여러 기준 데이터셋에서 SMOTE, SVM-SMOTE, TimeGAN을 능가하는 인간 활동 인식(HAR) 분류기 성능 향상에 기여한다.

ABSTRACT

Human activity recognition (HAR) from on-body sensors is a core functionality in many AI applications: from personal health, through sports and wellness to Industry 4.0. A key problem holding up progress in wearable sensor-based HAR, compared to other ML areas, such as computer vision, is the unavailability of diverse and labeled training data. Particularly, while there are innumerable annotated images available in online repositories, freely available sensor data is sparse and mostly unlabeled. We propose an unsupervised statistical feature-guided diffusion model specifically optimized for wearable sensor-based human activity recognition with devices such as inertial measurement unit (IMU) sensors. The method generates synthetic labeled time-series sensor data without relying on annotated training data. Thereby, it addresses the scarcity and annotation difficulties associated with real-world sensor data. By conditioning the diffusion model on statistical information such as mean, standard deviation, Z-score, and skewness, we generate diverse and representative synthetic sensor data. We conducted experiments on public human activity recognition datasets and compared the method to conventional oversampling and state-of-the-art generative adversarial network methods. Experimental results demonstrate that this can improve the performance of human activity recognition and outperform existing techniques.

연구 동기 및 목표

• 인간 활동 인식(HAR)에서 레이블이 부족하고 수집 비용이 높은 레이블된 센서 데이터 문제를 해결하기 위해.
• 클래스 레이블에 의존하지 않고 실제 센서 시계열 데이터의 시간적 및 통계적 특성을 유지하는 데이터 생성 방법을 개발하기 위해.
• 레이블이 없는 실제 데이터로부터 생성된 합성 데이터를 활용하여 HAR 모델 성능을 향상시키기 위해.
• 통계적 특징 유도 조건부 설정이 생성된 센서 데이터의 품질과 다양성 향상에 기여하는 정도를 평가하기 위해.

제안 방법

• 이 방법은 레이블이 없는 센서 시계열 데이터에서 추출한 통계적 특징—평균, 표준편차, Z-점수, 왜도—에 조건을 주는 확산 모델을 사용한다.
• 이중 단계 학습 프레임워크를 사용한다: 먼저 SF-DM은 대규모 레이블이 없는 센서 데이터로 사전 학습되며, 이후 소량의 실제 레이블 데이터와 합성 데이터를 사용해 별도의 HAR 분류기가 미세조정된다.
• 확산 모델은 노이즈가 첨가된 시계열 데이터를 복원하기 위해 인코더-디코더 아키텍처를 사용하며, 통계적 특징 임베딩에 의해 안내된다.
• 통계적 특징은 센서 데이터의 슬iding 윈도우(예: MM-FIT, PAMAP2, Opportunity에 대해 각각 400, 200, 200)를 기반으로 계산되며, 생성 과정에서 조건부 신호로 사용된다.
• 모델은 실제 센서 시퀀스에 점차 노이즈를 첨가하는 전방 확산 과정을 역으로 수행하도록 훈련되며, 통계적 사전 지식을 사용해 노이즈에서 원본을 재구성하는 법을 학습한다.
• 성능 평가는 동일한 학습 프rotocol 하에 SMOTE, SVM-SMOTE, TimeGAN과의 비교를 포함해 HAR 작업에서 정확도와 매크로 F1 스코어로 평가된다.

실험 결과

연구 질문

• RQ1 통계적 특징에 조건을 주는 비지도 확산 모델이 레이블이 없는 데이터 없이도 합성 센서 데이터를 생성하여 HAR 성능 향상에 기여할 수 있는가?
• RQ2 기존 오버샘플링 및 GAN 기반 방법과 비교해 통계적 특징 유도 확산 모델이 다양하고 대표적인 센서 데이터를 얼마나 잘 생성하는가?
• RQ3 왜도, Z-점수와 같은 통계적 특징의 포함이 생성된 합성 시계열 데이터의 품질과 활용도에 얼마나 기여하는가?
• RQ4 SF-DM에서 합성 데이터를 사전 학습한 후, 실제 레이블 데이터의 양이 다양할 경우 HAR 분류기 성능은 어떻게 변화하는가?

주요 결과

• MM-FIT 및 Opportunity 데이터셋에서 SF-DM은 실제 데이터의 20%만 사용했을 때 기준 모델 대비 매크로 F1 스코어 최대 5% 향상.
• 동일한 데이터셋에서 SF-DM은 TimeGAN 대비 매크로 F1 스코어 7%에서 13% 향상되어 더 뛰어난 일반화 및 데이터 품질을 입증.
• PAMAP2 데이터셋에서는 SF-DM이 기준 모델과 유사한 성능 유지 및 약간의 승리 기록, 열악한 성능 저하 없음.
• 제거 실험 결과 SF-DM[Corresp.P]—레이블 대신 통계적 특징을 사용—는 특히 저자료 환경에서 CC-DM(클래스 조건부 확산 모델)보다 일관되게 뛰어난 성능 기록.
• 제한된 레이블이 없는 데이터로 학습할 경우 SF-DM 성능 저하가 발생하여 안정적인 확산 모델 학습을 위해 충분한 데이터가 필요함을 시사.
• 클래스 불균형 문제에 대한 강건성 입증, 정확도보다 매크로 F1이 더 신뢰할 수 있으며, SF-DM은 모든 데이터셋에서 이 지표를 일관되게 향상시킴.