[논문 리뷰] Deep Activity Recognition Models with Triaxial Accelerometers

Mohammad Abu Alsheikh, Ahmed Selim외 4명|arXiv (Cornell University)|2015. 11. 15.

Context-Aware Activity Recognition Systems참고 문헌 26인용 수 129

한 줄 요약

이 논문은 삼축 가속도계를 활용한 인간 활동 인식을 향상시키기 위해 심층 학습 모델을 제안하며, 비지도 사전 훈련과 계층적 특징 학습을 통해 얕은 모델을 능가한다. 하이브리드 DL-HMM 접근법을 도입하여 심층 특징 표현과 시간적 모델링을 통합함으로써 순차적 활동 인식에서 99.13%의 정확도를 달성하였으며, 기존 최고 수준의 방법들을 크게 능가한다.

ABSTRACT

Despite the widespread installation of accelerometers in almost all mobile phones and wearable devices, activity recognition using accelerometers is still immature due to the poor recognition accuracy of existing recognition methods and the scarcity of labeled training data. We consider the problem of human activity recognition using triaxial accelerometers and deep learning paradigms. This paper shows that deep activity recognition models (a) provide better recognition accuracy of human activities, (b) avoid the expensive design of handcrafted features in existing systems, and (c) utilize the massive unlabeled acceleration samples for unsupervised feature extraction. Moreover, a hybrid approach of deep learning and hidden Markov models (DL-HMM) is presented for sequential activity recognition. This hybrid approach integrates the hierarchical representations of deep activity recognition models with the stochastic modeling of temporal sequences in the hidden Markov models. We show substantial recognition improvement on real world datasets over state-of-the-art methods of human activity recognition using triaxial accelerometers.

연구 동기 및 목표

• 가속도계 기반 활동 인식 시스템에서 낮은 인식 정확도와 레이블이 부족한 데이터 문제를 해결하기 위해.
• 손으로 설계한 특징을 제거하고, 심층 학습을 통해 원시 가속도 데이터로부터 계층적 표현을 자동으로 추출하기 위해.
• 하이브리드 심층 학습 및 숨겨진 마르코프 모델(DL-HMM) 프레임워크를 통해 순차적 활동의 시간적 모델링을 향상시키기 위해.
• 비지도 사전 훈련과 과잉 표현 심층 신뢰망(DBN)이 인식 성능 향상에 기여하는지 평가하기 위해.
• 伝통적인 얕은 모델과 HMM 기반 방법에 비해 실제 데이터셋에서 뛰어난 성능을 보여주기 위해.

제안 방법

• 레이블이 없는 가속도 데이터에 대해 제한된 볼츠만 기계(RBMs)를 활용한 심층 신뢰망(DBNs)을 사용해 비지도 사전 훈련을 수행하여 심층 네트워크 가중치를 초기화한다.
• 심층 신경망 출력 결과를 숨겨진 마르코프 모델의 발산 확률로 사용하는 하이브리드 DL-HMM 아키텍처를 적용하여 활동의 시간적 시퀀스를 모델링한다.
• 원시 삼축 가속도 신호의 스펙트로그램 표현을 적용하여 특징의 다양성을 향상시키고 모델의 일반화 능력을 높인다.
• 이중 단계 훈련 프로세스를 구현: 생성적 RBMs를 통한 사전 훈련 이후 역전파를 이용한 분류적 미세 조정.
• 훈련 안정성과 심층 아키텍처에서의 성능 향상을 위해 과잉 표현(입력 크기의 4배)을 사용하여 심층 모델을 최적화한다.
• 심층 모델의 후행 확률을 HMM의 발산 행렬과 초기 상태 분포 모델링에 사용하여 순차적 활동 전이를 표현한다.

실험 결과

연구 질문

• RQ1 레이블이 없는 가속도 데이터로 훈련된 심층 학습 모델이 얕은 모델에 비해 활동 인식 정확도를 향상시킬 수 있는가?
• RQ2 RBMs를 활용한 비지도 사전 훈련이 심층 활동 인식 모델의 일반화 능력과 성능 향상에 기여하는가?
• RQ3 가속도 신호의 스펙트로그램 표현이 특징 학습과 인식 정확도 향상에 어느 정도 기여하는가?
• RQ4 하이브리드 DL-HMM 프레임워크가 독립적인 HMM이나 심층 모델보다 순차적 인간 활동의 시간적 시퀀스를 더 잘 모델링할 수 있는가?
• RQ5 과잉 표현 심층 아키텍처와 과소 표현 아키텍처는 최적화 및 인식 성능 측면에서 어떻게 비교되는가?

주요 결과

• 500개의 뉴런을 가진 4층의 심층 신뢰망(DBN)이 WISDM 데이터셋에서 97.85%의 인식 정확도를 달성하여 얕은 모델보다 뚜렷이 뛰어났다.
• 하이브리드 DL-HMM 접근법이 Skoda 체크포인트 데이터셋에서 99.13%의 정확도를 기록하여 표준 HMM보다 3.38% 향상되었으며, 기준 방법에 비해 상당한 성능 향상을 보였다.
• 생성적 사전 훈련이 깊은 모델(5층 DBN)에서 최대 1.38%의 정확도 향상을 이끌어내어 심층 네트워크 최적화에서 핵심적인 역할을 했다.
• 과잉 표현(4배 입력 크기)은 특히 많은 층을 가진 심층 아키텍처에서 더 나은 수렴과 높은 정확도를 가능하게 하였다.
• 스펙트로그램 입력의 사용은 가속도 신호의 다주파수 및 비정기적 변동성을 포착함으로써 모델 성능을 향상시켰다.
• 학습률 0.1로 1000 에포크 동안 분류적 미세 조정을 수행함으로써 테스트 정확도가 크게 향상되어 전체 훈련 파이프라인의 효과성을 확인하였다.