[논문 리뷰] Personalized Student Stress Prediction with Deep Multitask Network

Abhinav Shaw, Natcha Simsiri외 3명|arXiv (Cornell University)|2019. 06. 26.

Mental Health Research Topics참고 문헌 20인용 수 4

한 줄 요약

이 논문은 스마트폰 센서 데이터의 이질적이고 다중 해상도인 데이터로부터 개인화된 학생의 스트레스 수준을 예측하기 위해 LSTM과 오토인코더를 조합한 딥 멀티태스크 학습 프레임워크인 CALM-Net을 제안한다. 시간적 패턴을 모델링하고 고수준 공변량을 통합하면서도 각 학생에 대해 개인화함으로써, CALM-Net은 StudentLife 데이터셋에서 이전 최고 성능 모델 대비 F1 점수 45.6% 향상(0.594)을 달성한다.

ABSTRACT

With the growing popularity of wearable devices, the ability to utilize physiological data collected from these devices to predict the wearer's mental state such as mood and stress suggests great clinical applications, yet such a task is extremely challenging. In this paper, we present a general platform for personalized predictive modeling of behavioural states like students' level of stress. Through the use of Auto-encoders and Multitask learning we extend the prediction of stress to both sequences of passive sensor data and high-level covariates. Our model outperforms the state-of-the-art in the prediction of stress level from mobile sensor data, obtaining a 45.6 % improvement in F1 score on the StudentLife dataset.

연구 동기 및 목표

• 스마트폰을 통해 수집된 이질적이고 다중 해상도의 수동 센서 데이터로부터 개인화된 학생의 스트레스 수준을 예측하는 데 도전하는 것.
• 기존 모델의 한계, 즉 개인 간 변동성에 대한 낮은 대처 능력, 불규칙한 데이터 해상도, 시간적 패턴 모델링 부족을 극복하는 것.
• 시간 시리즈 센서 데이터와 고수준 공변량을 통합하여 심리적 상태 예측을 향상시키는 일반화 가능한 플랫폼을 개발하는 것.
• 멀티태스크 학습과 개인화가 스트레스 예측 성능 향상에 기여하는지 평가하는 것.
• 모바일 센싱을 활용한 실시간이고 개인 맞춤형 정신 건강 모니터링을 위한 강력하고 확장 가능한 프레임워크를 제공하는 것.

제안 방법

• CALM-Net은 공유 인코더와 작업별 헤드를 갖춘 딥 멀티태스크 아키텍처를 사용하며, 센서 시계열 데이터의 시간적 패턴을 모델링하기 위해 LSTMs를 활용한다.
• 오버피팅을 줄이고 일반화 능력을 향상시키기 위해 오토인코더 구성 요소를 사용하여 원시 센서 시퀀스를 압축하고 재구성한다.
• 시간 시리즈 데이터(예: 활동, 음성)는 1분 간격으로 그룹화되고, 표본 추출 빈도가 다양할 경우 모드를 취하여 처리한다.
• 요일, 수면 시간, 시험 기간, 다음 마감일까지 남은 시간과 같은 고수준 공변량을 입력 특징으로 통합한다.
• 공유 표현 학습을 통해 각 학생별로 개인화된 모델을 훈련시켜 개인의 행동 패턴에 적응할 수 있도록 한다.
• 학생 간 멀티태스크 학습을 적용하여 지식 전이를 가능하게 하고, 데이터가 적은 학생의 성능 향상에 기여한다.

실험 결과

연구 질문

• RQ1 이질적이고 다중 해상도의 스마트폰 센서 데이터로부터 개인화된 스트레스 수준을 효과적으로 모델링할 수 있는 딥 멀티태스크 학습 프레임워크는 가능한가?
• RQ2 시간적 패턴과 고수준 공변량을 통합할 경우, 정적 특징만 사용하는 모델에 비해 스트레스 예측 성능는 어떻게 향상되는가?
• RQ3 개별 개인의 데이터가 제한적일 경우 멀티태스크 학습이 성능 향상에 얼마나 기여하는가?
• RQ4 개별 학생 전용 헤드를 통한 개인화가 비개인화 또는 공유 모델보다 현저히 뛰어나게 성능을 향상시키는가?
• RQ5 오토인코더 구성 요소가 노이즈가 많고 긴 시계열 센서 데이터에서 오버피팅을 줄이고 F1 점수를 향상시키는 데 어떤 기여를 하는가?

주요 결과

• CALM-Net은 StudentLife 데이터셋에서 평균 F1 점수 0.594를 기록하여 이전 최고 성능 모델인 Location-MLP(0.408) 대비 45.6% 향상된 성능을 달성한다.
• 표준 LSTM(F1 = 0.426)과 각 학생의 가장 흔한 레이블을 예측하는 베이스라인(F1 = 0.551)을 모두 초월하여, 개인화와 시간적 패턴 모델링의 가치를 입증한다.
• 23명의 학생을 대상으로 훈련했을 때 멀티태스크 학습은 상대적 F1 점수 39.4% 향상을 이끌었으며, 학생 수가 증가할수록 성능 향상이 더욱 두드러진다.
• 아블레이션 연구 결과, 멀티태스크 헤드를 제거할 경우 큰 규모의 그룹에서 성능 저하가 발생함을 확인하여 공유 표현 학습의 유용성을 입증한다.
• 오토인코더 구성 요소는 긴 불규칙한 센서 시퀀스에서 오버피팅을 줄이고 일반화 능력을 향상시키는 데 기여한다.
• CALM-Net은 범주형 시퀀스를 그룹화하고 히스토그램 기반 인코딩을 사용하여 데이터 이질성과 다중 해상도 특징을 효과적으로 처리한다.