[논문 리뷰] Fusing Similarity Models with Markov Chains for Sparse Sequential Recommendation

Ruining He, Julian McAuley|arXiv (Cornell University)|2016. 09. 28.

Recommender Systems and Techniques참고 문헌 17인용 수 95

한 줄 요약

이 논문은 희소 데이터셋에서 개인화된 순차 추천을 향상시키기 위해 아이템 유사도 모델과 일阶 마르코프 체인을 융합하는 Fossil을 제안한다. 장기적 선호와 단기적 순차적 동역학 사이의 사용자별 가중치를 학습함으로써 Fossil은 데이터 희소성 상황에서도 최신 기술보다 뛰어난 성능을 보이며, 의미 있는 개인화 및 순차적 패턴을 포착한다.

ABSTRACT

Predicting personalized sequential behavior is a key task for recommender systems. In order to predict user actions such as the next product to purchase, movie to watch, or place to visit, it is essential to take into account both long-term user preferences and sequential patterns (i.e., short-term dynamics). Matrix Factorization and Markov Chain methods have emerged as two separate but powerful paradigms for modeling the two respectively. Combining these ideas has led to unified methods that accommodate long- and short-term dynamics simultaneously by modeling pairwise user-item and item-item interactions. In spite of the success of such methods for tackling dense data, they are challenged by sparsity issues, which are prevalent in real-world datasets. In recent years, similarity-based methods have been proposed for (sequentially-unaware) item recommendation with promising results on sparse datasets. In this paper, we propose to fuse such methods with Markov Chains to make personalized sequential recommendations. We evaluate our method, Fossil, on a variety of large, real-world datasets. We show quantitatively that Fossil outperforms alternative algorithms, especially on sparse datasets, and qualitatively that it captures personalized dynamics and is able to make meaningful recommendations.

연구 동기 및 목표

• 기존 모델이 사용자 상호작용 데이터가 부족한 상황에서 실패하는 희소 순차 추천 문제를 해결하기 위해.
• 장기적 사용자 선호(아이템 유사도로 모델링)와 단기적 순차적 동역학(마르코프 체인으로 모델링)을 통합된 프레임워크 안에서 융합하기 위해.
• 냉각 사용자에게도 전역 순차 패턴을 활용하여 희소 데이터셋에서의 성능을 향상시키기 위해.
• 사용자 역사 길이에 따라 장기적 선호와 단기 전이 간의 균형을 적응적으로 조정할 수 있는 개인화된 추천을 가능하게 하기 위해.

제안 방법

• Fossil는 각 사용자를 상호작용한 아이템으로 표현하고, 아이템-아이템 유사도를 기반으로 추천을 수행하는 유사도 기반 접근 방식을 사용하여 사용자 선호를 모델링한다.
• 단기적 동역학을 캡처하기 위해 일계 마르코프 체인을 도입하여 아이템 간 전이를 모델링하고 전이 확률을 활용한다.
• 각 사용자 u에 대해 장기적 선호(유사도를 통한)와 단기적 전이(마르코프 체인을 통한)의 기여도를 균형 잡는 개인화된 가중치 벡터 η^u를 학습한다.
• 사용자 u에 대해 아이템 j의 최종 추천 점수는 유사도 기반 점수와 마르코프 전이 점수의 가중합으로 계산되며, 각 사용자별로 학습된 가중치를 사용한다.
• 관측된 사용자-아이템 상호작용에 대한 예측 손실을 최적화하기 위해 확률적 경사 하강법을 사용하여 엔드 투 엔드로 모델을 훈련한다.
• 전이 가능성 계산을 위해 아이템 표현 벡터 P_i와 Q_j 간의 내적을 사용하여 효율적인 추론을 가능하게 한다.

실험 결과

연구 질문

• RQ1 어떻게 하면 유사도 기반 모델과 마르코프 체인을 효과적으로 융합하여 희소 데이터셋에서의 순차 추천을 향상시킬 수 있는가?
• RQ2 제안된 융합 방법이 실세계의 희소 순차 추천 벤치마크에서 기존 최신 기술 모델보다 어느 정도 뛰어나게 성능을 발휘하는가?
• RQ3 다양한 상호작용 이력 수준을 가진 사용자, 특히 행동이 적은 냉각 사용자에게 모델은 어떻게 적응하는가?
• RQ4 학습된 모델이 포착하는 순차적 및 개인화된 동역학은 어떤 유형이며, 의미적으로 유의미한가?

주요 결과

• Fossil는 FPMC 및 FISM과 같은 다수의 최신 기술 모델을 능가하며, 특히 희소 데이터셋에서 뛰어난 강건성을 보이며 성능을 향상시킨다.
• 아마존의 의류, 신발 및 액세서리 데이터셋과 같은 대규모 실세계 데이터셋에서 상당한 성능 향상을 달성했으며, 사용자 행동 수가 500만 건이 넘는다.
• 시각화 결과 Fossil는 의미적으로 일관된 전이를 학습함을 보여주며, 예를 들어 시계를 셔츠와 함께 추천하거나 액세서리를 모자와 함께 추천하는 등 호환 가능한 옷차림을 제안함으로써 의미 있는 순차적 동역학을 포착한다.
• 학습된 사용자별 가중치 η^u_0는 행동 수가 적은 사용자에게서는 전이 동역학의 중요도를 더 높게 할당함으로써 희소성 상황에서의 적응적 행동을 확인한다.
• 장기간의 상호작용 이력을 가진 사용자에게서는 점점 더 장기적 선호에 의존함으로써 데이터가 축적됨에 따라 정확한 개인화를 반영한다.
• 정성적 분석을 통해 Fossil가 사용자 행동의 '순차적 일관성'을 포착함을 확인했으며, 예를 들어 남자 옷이나 비즈니스 복장을 순차적으로 추천하는 등 관련된 아이템을 제안한다.