[논문 리뷰] Session-based Sequential Skip Prediction via Recurrent Neural Networks

Lin Zhu, Yihong Chen|arXiv (Cornell University)|2019. 02. 13.

Recommender Systems and Techniques참고 문헌 21인용 수 5

한 줄 요약

이 논문은 음악 스트리밍에서 세션 기반 스킵 예측을 위한 GRU 기반 순환 신경망 모델을 제안하며, 사용자 상호작용 특징과 곡 메타데이터를 활용하여 트랙이 스킵될지를 예측한다. 첫 번째 세션 반의 문맥 임베딩을 활용하여 시퀀스 표현을 풍부화하고, 모델 앙상블을 적용함으로써 0.648의 평균 평균 정확도(AA) 스코어를 달성하여 WSDM 컵 2019 경연 대회에서 1등을 차지했다.

ABSTRACT

The focus of WSDM cup 2019 is session-based sequential skip prediction, i.e. predicting whether users will skip tracks, given their immediately preceding interactions in their listening session. This paper provides the solution of our team extbf{ekffar} to this challenge. We focus on recurrent-neural-network-based deep learning approaches which have previously been shown to perform well on session-based recommendation problems. We show that by choosing an appropriate recurrent architecture that properly accounts for the given information such as user interaction features and song metadata, a single neural network could achieve a Mean Average Accuracy (AA) score of 0.648 on the withheld test data. Meanwhile, by ensembling several variants of the core model, the overall recommendation accuracy can be improved even further. By using the proposed approach, our team was able to attain the 1st place in the competition. We have open-sourced our implementation at GitHub.

연구 동기 및 목표

• 순차적 상호작용 데이터를 활용하여 음악 청취 세션에서 사용자 스킵 행동을 예측하는 데 도전하는 것.
• 딥 러닝을 활용하여 동적 사용자 선호도와 세션 컨텍스트를 효과적으로 모델링하는 것.
• 사용자 상호작용 특징과 곡 메타데이터를 순환 아키텍처에 통합하여 예측 정확도를 향상시키는 것.
• WSDM 컵 2019 세션 기반 스킵 예측 기준에서 최신 기술 성능을 달성하는 것.
• 순차적 추천 작업에서 모델 앙상블 및 아키텍처 수정의 효과성을 입증하는 것.

제안 방법

• 두 층으로 구성된 스타킹된 GRU 네트워크가 각 청취 세션의 첫 번째 반을 처리하여 문맥 기반 세션 임베딩을 생성한다.
• 두 번째 반에서는 각 트랙의 표현이 첫 번째 반의 세션 임베딩과 히든 히든 특징의 하다마드 곱(ReLU 활성화 적용)을 통해 풍부화된다.
• 풍부화된 표현은 활성화 함수로 ReLU를 사용하는 두 층의 다층퍼셉트론에 입력되며, 이는 이진 스킵 예측을 위한 시그모이드 출력을 생성한다.
• 다중 작업 학습 설정을 도입하여 스킵 행동과 함께 컨텍스트 전환 및 일시정지 패턴과 같은 관련 사용자 행동을 함께 예측한다.
• 모델 훈련은 기준 학습률 0.0005와 배치 크기 2200을 사용하는 Adam 옵timizer를 활용하며, 변형된 길이의 세션을 처리하기 위해 시퀀스 패딩을 적용한다.
• 앙상블 방법은 활성화 함수(예: ELU), 배치 정규화, 하이퍼파ram터의 차이가 있는 여섯 가지 모델 변종을 조합하여 일반화 능력을 향상시킨다.

실험 결과

연구 질문

• RQ1 GRU 기반 아키텍처가 음악 스트리밍 세션의 순차적 사용자 행동을 스킵 예측에 효과적으로 모델링할 수 있는가?
• RQ2 세션 수준의 컨텍스트와 트랙 메타데이터를 통합할 경우 스킵 예측 정확도가 어떻게 향상되는가?
• RQ3 아키텍처 변형과 모델 앙상블이 WSDM 컵 2019 기준에서 성능 향상에 어느 정도 기여하는가?
• RQ4 보조 사용자 행동 신호(예: 컨텍스트 전환, 일시정지 행동)를 포함한 다중 작업 학습이 주요 스킵 예측 작업을 향상시키는가?
• RQ5 변형된 길이의 세션과 장기적 순차적 의존성에 대해 모델의 강건성은 어떠한가?

주요 결과

• 단일 GRU 기반 모델이 공개 테스트 세트에서 평균 평균 정확도(AA) 스코어 0.648을 기록하여 WSDM 컵 2019 경연에서 1등을 차지했다.
• 다양한 활성화 함수, 정규화, 하이퍼파라미터를 가진 여섯 가지 모델 변종을 앙상블하여 AA 스코어를 0.651까지 향상시켰다.
• 세션 수준의 컨텍스트와 트랙 전용 특징을 조합한 풍부화된 표현의 사용이 모델 성능 향상에 크게 기여했다.
• 스택드 GRU를 통해 순차적 동역학과 사용자 의도를 효과적으로 포착하여, 이 순차적 맥락에서 기존의 협업 필터링 방법보다 뛰어난 성능을 보였다.
• 보조 작업(예: context_switch, 일시정지 행동)의 포함이 일반화 능력 향상과 예측 안정성 향상에 기여했다.
• 모델은 미리 보지 않은 세션에 대해 강력한 일반화 능력을 보였으며, 이는 실세계 세션 기반 추천 시스템에 효과적임을 입증했다.