[논문 리뷰] Deep Context-Aware Recommender System Utilizing Sequential Latent Context

Amit Livne, Moshe Unger외 2명|arXiv (Cornell University)|2019. 09. 09.

Recommender Systems and Techniques참고 문헌 25인용 수 16

한 줄 요약

이 논문은 순차적인 사용자 맥락을 LSTM 기반 인코더-디코더 네트워크를 사용해 압축된 잠재 표현으로 모델링하는 딥 컨텍스트 인식 추천 시스템을 제안한다. 이 순차적 잠재 맥락을 신경망 기반 협업 필터링 프레임워크에 통합함으로써, 두 개의 실세계 데이터셋에서 최신 기술 모델보다 최대 16.3% 향상된 hit@k 및 9.47% 향상된 RMSE를 기록하여 추천 정확도가 크게 향상된다.

ABSTRACT

Context-aware recommender systems (CARSs) apply sensing and analysis of user context in order to provide personalized services. Adding context to a recommendation model is challenging, since the addition of context may increases both the dimensionality and sparsity of the model. Recent research has shown that modeling contextual information as a latent vector may address the sparsity and dimensionality challenges. We suggest a new latent modeling of sequential context by generating sequences of contextual information and reducing their contextual space to a compressed latent space.We train a long short-term memory (LSTM) encoder-decoder network on sequences of contextual information and extract sequential latent context from the hidden layer of the network in order to represent a compressed representation of sequential data. We propose new context-aware recommendation models that extend the neural collaborative filtering approach and learn nonlinear interactions between latent features of users, items, and contexts which take into account the sequential latent context representation as part of the recommendation process. We deployed our approach using two context-aware datasets with different context dimensions. Empirical analysis of our results validates that our proposed sequential latent context-aware model (SLCM), surpasses state of the art CARS models.

연구 동기 및 목표

• 동적이고 변화하는 사용자 맥락을 모델링하는 데 어려움이 있는 컨텍스트 인식 추천 시스템(CARS)에서 맥락의 희소성과 고차원성을 완화하는 것.
• 맥락 정보의 순차적 모델링을 통해 장기 맥락 패턴을 포착함으로써 추천 정확도를 향상시키는 것.
• 사용자, 아이템, 순차적 잠재 맥락 표현 간의 비선형 상호작용을 신경망 기반 협업 필터링에 통합하는 것.
• 정적 또는 단기 맥락 표현과 비교해 순차적 잠재 맥락 모델링의 효과를 평가하는 것.
• 추천 성능을 고려할 때 최적의 시퀀스 길이를 규명하는 것.

제안 방법

• 맥락 특성의 시퀀스에서 압축된 저차원의 잠재 표현을 학습하기 위해 LSTM 인코더-디코더 네트워크를 훈련한다.
• LSTM 인코더의 은닉 상태를 순차적 잠재 맥락 벡터로 사용하여 사용자 맥락 시퀀스의 시간적 의존성을 캡처한다.
• 순차적 잠재 맥락을 신경망 기반 협업 필터링(NCF) 프레임워크에 통합하여 사용자, 아이템, 맥락 간의 비선형 상호작용을 모델링한다.
• 암시적 피드백을 사용해 엔드 투 엔드로 훈련하며, 손실 함수를 확률적 경사 하강법으로 최적화한다.
• 사용자 ID 없이 최근 사용자 상호작용에서 시퀀스를 구성함으로써 개인정보를 보호하고 사용자 간 일반화를 가능하게 한다.
• 시퀀스 길이에 대한 민감도 분석을 수행하여 추천 성능을 고려할 때 최적의 맥락 윈도우 크기를 규명한다.

실험 결과

연구 질문

• RQ1 LSTM 기반 오토인코더를 통해 순차적 맥락을 모델링하면 정적 또는 현재 맥락 전용 모델에 비해 추천 정확도가 향상되는가?
• RQ2 순차적 잠재 맥락의 포함 여부가 상위-k 추천에서 랭킹 성능(e.g., hit@k)에 미치는 영향은 어떠한가?
• RQ3 예측 정확도(RMSE, MAE) 측면에서 맥락 표현의 최적 시퀀스 길이는 무엇인가?
• RQ4 제안된 순차적 잠재 맥락 모델(SLCM)은 레이팅 예측 및 랭킹 작업 모두에서 최신 기술 CARS 모델보다 우수한가?
• RQ5 사용자 고유 식별자에 의존하지 않고도 사용자 간 일반화가 잘 되어 있으며, 의미 있는 맥락 역학을 여전히 포착하는가?

주요 결과

• SLCM 모델은 CARS 데이터셋에서 최고의 베이스라인(NeuMF) 대비 MAE 15.2% 향상, RMSE 9.47% 향상된 바 있다.
• Yelp 데이터셋에서는 SLCM가 NeuMF 대비 RMSE 12.3% 향상, MAE 12.3% 향상되었으며, RMSE는 1.239, MAE는 1.011를 기록했다.
• SLCM는 모든 다른 신경망 기반 맥락 모델(ENCM, LNCM)보다 RMSE 및 MAE 모두에서 승리하여 장기 맥락 시퀀스를 모델링하는 데서 유리함을 입증했다.
• hit@k 평가에서 SLCM는 k=1일 때 최대 16.3%, k=3일 때 10.88%, k=5일 때 6.75% 향상되어 상위-1 및 상위-3 추천의 우수한 랭킹 품질을 보였다.
• 최적의 시퀀스 길이는 2~3개의 맥락 벡터로 확인되었으며, 더 긴 시퀀스(5~6개)는 RMSE 0.344, MAE 0.275로 성능 저하를 초래했다.
• CARS 데이터셋에서 시퀀스 길이가 2와 3일 때 모델은 최고의 성능을 기록했으며, RMSE는 0.336, MAE는 0.243를 기록했다.