[논문 리뷰] Collaborative Filtering with Recurrent Neural Networks

Robin Devooght, Hugues Bersini|arXiv (Cornell University)|2016. 08. 26.

Recommender Systems and Techniques참고 문헌 17인용 수 70

한 줄 요약

이 논문은 사용자 상호작용을 시간적 순서로 간주하여 협업 필터링을 순서 예측 문제로 재정의함으로써 추천 정확도를 향상시키는 방법을 제안한다—특히 단기 예측 및 아이템 커버리지 측면에서 향상된다. LSTM는 KNN 및 행렬 분해와 같은 전통적 방법보다 뛰어나며, 변화하는 사용자 선호도를 잘 포착하고 추천 다양성을 높이는 데 특히 유리하다.

ABSTRACT

We show that collaborative filtering can be viewed as a sequence prediction problem, and that given this interpretation, recurrent neural networks offer very competitive approach. In particular we study how the long short-term memory (LSTM) can be applied to collaborative filtering, and how it compares to standard nearest neighbors and matrix factorization methods on movie recommendation. We show that the LSTM is competitive in all aspects, and largely outperforms other methods in terms of item coverage and short term predictions.

연구 동기 및 목표

• 사용자 선호도의 변화를 보다 잘 모델링하기 위해 협업 필터링을 순서 예측 문제로 재정의하는 것.
• 기존의 표준 협업 필터링 방법(예: KNN 및 행렬 분해)과 비교하여 LSTM의 성능을 평가하는 것.
• 순서 기반 모델링이 추천 다양성과 단기 예측 정확도를 향상시키는지 조사하는 것.
• 보조 사용자, 아이템 및 상호작용 특징을 통합할 경우 LSTM 기반 추천 성능에 어떤 영향을 미치는지 평가하는 것.

제안 방법

• 사용자 행동을 시간 순서로 정렬된 아이템 상호작용의 시퀀스로 모델링하는 협업 필터링의 순서 예측 작업으로 재정의하는 것.
• 장기적 단기 기억(LSTM) 네트워크를 사용하여 순서적 상호작용에서 사용자 궤적 표현을 학습하는 것.
• 사용자의 상호작용 시퀀스에서 다음 아이템을 예측하도록 LSTM을 훈련시키며, 단기 예측을 최적화하기 위해 분류 교차 엔트로피 손실을 사용하는 것.
• 원핫 인코딩을 통해 사용자 인구통계학적 정보, 아이템 장르, 평점 등의 보조 특징을 처리하고, 아이템 임베딩과 결합하여 LSTM의 입력으로 사용하는 것.
• 단기 예측 성능 평가를 위해 'k에서의 순서 예측 성공률'(sps@k)이라는 고유 지표를 사용하는 것.
• Movielens 1M 및 Netflix 데이터셋에서 표준 지표인 sps@k, 아이템 커버리지, 사용자 커버리지, recall@k를 사용하여 모델 성능을 비교하는 것.

실험 결과

연구 질문

• RQ1 재귀 신경망, 특히 LSTM가 협업 필터링을 순서 예측 문제로 효과적으로 모델링할 수 있는가?
• RQ2 LSTM 기반 추천은 전통적인 KNN 및 행렬 분해 대비 단기 및 장기 예측 성능에서 어떤가?
• RQ3 상호작용의 시간적 순서를 통합할 경우 정적 협업 필터링에 비해 추천 다양성과 커버리지가 향상되는가?
• RQ4 추가적인 사용자, 아이템 및 상호작용 특징이 LSTM 기반 협업 필터링 성능에 어느 정도 향상 효과를 미치는가?

주요 결과

• 모든 특징을 사용할 경우 Movielens 1M에서 아이템 커버리지가 666.17개에 도달하여 LSTM 모델이 KNN 및 행렬 분해보다 유의미하게 뛰어나다.
• Movielens 1M에서 LSTM의 k에서의 순서 예측 성공률(sps@k)은 34.97%로, 모든 기준 모델을 초월한다.
• 단기 예측 성능에서 뛰어난 성능을 보이며, 테스트된 모든 방법 중 가장 높은 sps@k 점수를 기록한다.
• 사용자, 아이템, 상호작용 특징을 별개로 추가할 경우 성능 향상이 미미하며, sps@k는 33.69%에서 34.97%로, 아이템 커버리지는 649.22에서 666.17로 약간 향상된다.
• 순서 기반 접근 방식은 자연스럽게 단기 예측을 지원하며, 단기 예측이 장기 예측의 부분집합이므로 추천 다양성을 높인다.
• 결과적으로 상호작용의 순서 자체가 보조 특징에 담긴 대부분의 정보를 암묵적으로 포함하고 있음을 시사하며, 이로 인해 추가 특징의 경계적 기여도는 감소한다.