[논문 리뷰] WSense: A Robust Feature Learning Module for Lightweight Human Activity Recognition

Ayokunle Olalekan Ige, Mohd Halim Mohd Noor|arXiv (Cornell University)|2023. 03. 31.

Context-Aware Activity Recognition Systems인용 수 4

한 줄 요약

WSense는 웨어러블 센서 데이터를 사용하여 인간 활동 인식(HAR)을 향상시키는 경량이며 파라미터 효율적인 기능 학습 모듈이다. 두 개의 1D CNN과 글로벌 맥스 풀링을 활용하여 창 크기와 관계없이 강건한 특징을 추출하며, WISDM 및 PAMAP2 데이터셋에서 다양한 슬라이딩 윈도우 크기에서 기존의 기준 모델들을 능가하는 성능을 보이며 최소한의 모델 크기를 유지한다.

ABSTRACT

In recent times, various modules such as squeeze-and-excitation, and others have been proposed to improve the quality of features learned from wearable sensor signals. However, these modules often cause the number of parameters to be large, which is not suitable for building lightweight human activity recognition models which can be easily deployed on end devices. In this research, we propose a feature learning module, termed WSense, which uses two 1D CNN and global max pooling layers to extract similar quality features from wearable sensor data while ignoring the difference in activity recognition models caused by the size of the sliding window. Experiments were carried out using CNN and ConvLSTM feature learning pipelines on a dataset obtained with a single accelerometer (WISDM) and another obtained using the fusion of accelerometers, gyroscopes, and magnetometers (PAMAP2) under various sliding window sizes. A total of nine hundred sixty (960) experiments were conducted to validate the WSense module against baselines and existing methods on the two datasets. The results showed that the WSense module aided pipelines in learning similar quality features and outperformed the baselines and existing models with a minimal and uniform model size across all sliding window segmentations. The code is available at https://github.com/AOige/WSense.

연구 동기 및 목표

• 자원이 제한된 엣지 디바이스에 배포하기 어려운, 압축 및 자극 기반 기능 학습 모듈(예: squeeze-and-excitation)의 높은 파라미터 수를 해결하기 위해.
• 웨어러블 센서 기반 HAR에서 다양한 슬라이딩 윈도우 크기에서 높은 성능을 유지할 수 있는 기능 학습 모듈을 개발하기 위해.
• 입력 윈도우 분할 방식에 관계없이 일관된 특징 품질을 확보하여 모델의 강건성을 향상시키기 위해.
• 가속도계 및 다중 모odal 센서 데이터에서 정확도를 유지하거나 향상시키면서 모델 복잡성을 줄이기 위해.
• 최소한이면서 균일한 모델 크기를 통해 엣지 디바이스에서 HAR 모델을 효율적으로 배포할 수 있도록 하기 위해.

제안 방법

• WSense는 원시 웨어러블 센서 신호에서 계층적인 시간 특징을 추출하기 위해 두 개의 1D 컨볼루션 레이어를 사용한다.
• 각 1D 컨볼루션 레이어 이후에 글로벌 맥스 풀링을 적용하여 공간 차원을 감소시키고 주요 특징을 유지한다.
• 이 모듈은 입력 슬라이딩 윈도우의 크기와 무관하게 설계되어, 다양한 윈도우 분할 방식에서도 일관된 특징 표현을 보장한다.
• 평가를 위해 다중 모달 및 단일 센서 데이터셋에서 CNN 및 ConvLSTM 파ipeline에 모듈을 통합한다.
• 표준 교차 엔트로피 손실을 사용하여 엔드 투 엔드로 훈련하고, 확률적 경사 하강법으로 최적화한다.
• 설계는 파라미터 효율성을 중시하며, 주의 메커니즘 또는 무거운 정규화 레이어를 회피하여 모델 크기를 최소화한다.

실험 결과

연구 질문

• RQ1 웨어러블 센서 기반 HAR에서 다양한 슬라이딩 윈도우 크기에서 경량 기능 학습 모듈이 높은 성능을 유지할 수 있는가?
• RQ2 WSense는 현저히 적은 파라미터를 사용하면서도 기존의 주의 기반 모듈과 비교해 유사하거나 더 높은 정확도를 달성하는가?
• RQ3 WSense가 CNN 및 ConvLSTM 아키텍처에 통합되었을 때, 다양한 센서 데이터셋에서 어떻게 성능을 발휘하는가?
• RQ4 WSense의 특징 표현은 입력 윈도우 길이의 변화와 센서 모달리티 변화에 대해 강건한가?
• RQ5 WSense의 최소한이면서 균일한 모델 크기 덕분에 엣지 디바이스에서 HAR 모델을 효율적으로 배포할 수 있는가?

주요 결과

• WSense는 WISDM 및 PAMAP2 데이터셋에서 수행된 960회의 실험 전반에서 기준 모델들과 비교해 뛰어난 또는 경쟁 가능한 정확도를 달성했다.
• 모듈은 테스트된 모든 슬라이딩 윈도우 크기에서 일관된 성능을 유지하여 입력 분할 방식의 변동에 대한 강건성을 입증했다.
• squeeze-and-excitation과 같은 주의 기반 모듈에 비해 모델 크기를 크게 줄여 엣지 디바이스에 효율적으로 배포할 수 있도록 했다.
• PAMAP2 데이터셋에서 WSense는 더 적은 파라미터를 사용하면서도 기존 방법들을 능가하는 정확도를 보였다.
• CNN 및 ConvLSTM 파이프라인 양쪽에 WSense를 통합함으로써 모델 복잡성 증가 없이도 기능 학습 품질이 향상되었다.
• 글로벌 맥스 풀링 메커니즘이 계산 오버헤드를 줄이면서도 분류에 유용한 특징을 효과적으로 유지했다.