[논문 리뷰] PTUM: Pre-training User Model from Unlabeled User Behaviors via Self-supervision

Chuhan Wu, Fangzhao Wu외 4명|arXiv (Cornell University)|2020. 10. 04.

Topic Modeling참고 문헌 14인용 수 10

한 줄 요약

이 논문은 대규모 레이블이 없는 사용자 행동 데이터를 활용하여 보편적인 사용자 표현을 학습하는 자기지도 학습 전훈 프레임워크인 PTUM을 제안한다. 마스크된 행동 예측과 다음 K개 행동 예측을 자기지도 학습 과제로 도입함으로써, 특히 레이블 데이터가 부족한 상황에서 다양한 사용자 모델링 작업의 최종 성능을 향상시킨다.

ABSTRACT

User modeling is critical for many personalized web services. Many existing methods model users based on their behaviors and the labeled data of target tasks. However, these methods cannot exploit useful information in unlabeled user behavior data, and their performance may be not optimal when labeled data is scarce. Motivated by pre-trained language models which are pre-trained on large-scale unlabeled corpus to empower many downstream tasks, in this paper we propose to pre-train user models from large-scale unlabeled user behaviors data. We propose two self-supervision tasks for user model pre-training. The first one is masked behavior prediction, which can model the relatedness between historical behaviors. The second one is next $K$ behavior prediction, which can model the relatedness between past and future behaviors. The pre-trained user models are finetuned in downstream tasks to learn task-specific user representations. Experimental results on two real-world datasets validate the effectiveness of our proposed user model pre-training method.

연구 동기 및 목표

• 기존의 사용자 모델링 방법이 레이블 데이터에 크게 의존하고 레이블이 없는 사용자 행동 데이터에 내재된 보편적 패턴을 활용하지 못하는 한계를 해결한다.
• 자기지도 전훈을 사용자 행동 시퀀스에 적용함으로써 언어 모델의 전훈 기반 접근과 사용자 모델링을 연결한다.
• 대규모 레이블이 없는 사용자 행동 데이터를 활용하여 레이블 데이터가 적은 환경에서도 사용자 표현 학습 성능을 향상시킨다.
• 과거와 미래 행동 간의 관련성과 시간적 동적 특성을 반영할 수 있도록 사용자 행동 시퀀스에 특화된 자기지도 학습 과제를 개발한다.

제안 방법

• 두 단계 프레임워크 제안: 먼저 레이블이 없는 사용자 행동 데이터에서 전훈을 수행하고, 이후 레이블이 있는 데이터로 최종 작업에 맞게 미세조정한다.
• 행동 간 내부 관련성을 모델링하기 위해, 랜덤으로 마스크된 행동을 나머지 행동 기반으로 예측하는 마스크된 행동 예측(Masked Behavior Prediction, MBP) 과제를 설계한다.
• 과거 행동에서 다음 K개 미래 행동을 예측하는 다음 K개 행동 예측(Next K-Behaviors Prediction, NBP) 과제를 도입하여 시간적 의존성을 캡처한다.
• 가중치가 부여된 손실 함수를 사용하여 MBP와 NBP 목표를 결합하며, 두 과제를 균형 있게 조정하기 위해 하이퍼파라미터 λ를 사용한다.
• 개별 행동을 임bedding 또는 CNN 등의 행동 인코더로 임베딩하고, GRU, Transformer 또는 자기주의성 어텐션 등의 사용자 인코더를 사용하여 행동 임베딩을 종합하여 사용자 표현을 생성한다.
• 표준 지도 학습을 사용하여 클릭-through 비율 예측 및 인구 통계 분류와 같은 최종 작업에 대해 전훈된 사용자 모델을 미세조정한다.

실험 결과

연구 질문

• RQ1 대규모 레이블이 없는 사용자 행동 데이터를 기반으로 한 자기지도 전훈이 개인화 추천 작업의 사용자 표현 학습에 기여하는가?
• RQ2 마스크된 행동 예측과 다음 K개 행동 예측이 사용자 모델 전훈에 적합한 자기지도 학습 과제인가?
• RQ3 전훈이 레이블 데이터가 제한된 상황에서 성능 저하를 완화하는가?
• RQ4 두 가지 자기지도 학습 과제 간 최적의 균형은 무엇이며, K와 λ와 같은 하이퍼파라미터가 성능에 미치는 영향은 어떠한가?

주요 결과

• 실제 데이터셋에서 다양한 사용자 모델링 방법(HSA, BERT4Rec 등)에 대해 전훈된 사용자 모델(PTUM)이 엔드 투 엔드 학습된 모델보다 일관되게 뛰어난 성능을 보였다.
• 레이블 데이터가 부족한 경우 PTUM의 성능 향상이 가장 두드러지며, 이는 낮은 데이터 환경에서의 효과성을 입증한다.
• 마스크된 행동 예측 과제는 과거 행동 간의 관계를 포착함으로써 성능 향상을 이끌었으며, 표현 품질 향상이 두드러졌다.
• 다음 K개 행동 예측 과제는 과거와 미래 행동 간의 시간적 동적 특성을 향상시켜 최종 작업 성능 향상에 기여했다.
• 두 가지 자기지도 학습 과제를 결합할 경우 최고의 성능를 기록했으며, 이는 단기적 및 장기적 행동 의존성 모델링의 상호보완적 이점이 있음을 시사한다.
• 최적의 하이퍼파라미터는 λ = 1 및 K = 2로 확인되었으며, K가 너무 작을 경우(예: K=1) 또는 너무 클 경우 과적합 또는 예측 난이도 증가로 인해 성능 저하가 발생했다.