[논문 리뷰] A Comparative Study of Matrix Factorization and Random Walk with Restart in Recommender Systems

Haekyu Park, Jinhong Jung외 1명|arXiv (Cornell University)|2017. 08. 30.

Recommender Systems and Techniques참고 문헌 25인용 수 3

한 줄 요약

이 논문은 추천 시스템에서 행렬 분해(MF)와 복원을 가진 무작위 보행(RWR)을 비교하며, MF의 편향 모델링을 반영하기 위해 전역 편향 항을 포함한 새로운 RWR 변형을 제안한다. 실험 결과, 명시적 피드백에서는 MF가 RWR를 능가하고, 암시적 피드백에서는 RWR가 더 우수하다. 편향 항은 양방법에 모두 도움이 되지만, 부가 정보는 암시적 데이터에서는 성능을 저하시킨다.

ABSTRACT

Between matrix factorization or Random Walk with Restart (RWR), which method works better for recommender systems? Which method handles explicit or implicit feedback data better? Does additional information help recommendation? Recommender systems play an important role in many e-commerce services such as Amazon and Netflix to recommend new items to a user. Among various recommendation strategies, collaborative filtering has shown good performance by using rating patterns of users. Matrix factorization and random walk with restart are the most representative collaborative filtering methods. However, it is still unclear which method provides better recommendation performance despite their extensive utility. In this paper, we provide a comparative study of matrix factorization and RWR in recommender systems. We exactly formulate each correspondence of the two methods according to various tasks in recommendation. Especially, we newly devise an RWR method using global bias term which corresponds to a matrix factorization method using biases. We describe details of the two methods in various aspects of recommendation quality such as how those methods handle cold-start problem which typically happens in collaborative filtering. We extensively perform experiments over real-world datasets to evaluate the performance of each method in terms of various measures. We observe that matrix factorization performs better with explicit feedback ratings while RWR is better with implicit ones. We also observe that exploiting global popularities of items is advantageous in the performance and that side information produces positive synergy with explicit feedback but gives negative effects with implicit one.

연구 동기 및 목표

• 추천 시스템의 협업 필터링에서 행렬 분해(MF)와 복원을 가진 무작위 보행(RWR)을 체계적으로 비교하기.
• 각 방법이 명시적 피드백과 암시적 피드백 설정에서 어떻게 성능을 내는지 조사하기.
• 전역 편향 항과 부가 정보가 두 방법 전반에 걸쳐 추천 품질에 미치는 영향 평가하기.
• MF의 편향 모델링을 반영하기 위해 전역 편향 항을 포함한 새로운 RWR 변형 개발하기.
• 다양한 추천 시나리오와 데이터 유형에서 MF와 RWR의 강점과 한계에 대한 통찰 제공하기.

제안 방법

• MF의 편향 모델링과 유사하게 항목 인기와 사용자 일반 경향을 모델링하기 위해 전역 편향 항을 포함한 새로운 RWR 기반 방법 제안.
• 사용자-항목 이분 그래프를 사용자 상호작용을 모델링하며, RWR는 재시작 확률을 가진 무작위 보행 시뮬레이션을 통해 개인화된 노드 간 근접도를 계산.
• 행렬 분해를 사용하여 사용자-항목 평가 행렬을 낮은 질량의 사용자 및 항목 요인으로 분해하며, 전역 편향 항 포함.
• 사용자 인구통계학적 정보, 항목 카테고리 등 부가 정보를 특성 기반 임베딩 또는 그래프 증강을 통해 MF 및 RWR 모델에 통합.
• Movielens, FilmTrust, Epinions, Lastfm 등의 다수 실세계 데이터셋에서 표준 평가 지표인 스피어만의 rho, 정밀도@k, RMSE를 사용.
• 명시적 피드백과 암시적 피드백 설정 전반에서 편향 항과 부가 정보의 영향을 분리하기 위해 아블레이션 스터디 수행.

실험 결과

연구 질문

• RQ1 명시적 피드백 데이터에서, 행렬 분해(MF)와 복원을 가진 무작위 보행(RWR) 중 어느 방법이 더 우수한가?
• RQ2 암시적 피드백 데이터에서 어느 방법이 더 우수한가?
• RQ3 전역 편향 항은 MF와 RWR 양자 모두의 추천 성능 향상에 기여하는가?
• RQ4 부가 정보는 MF와 RWR의 추천 성능에 어떤 영향을 미치며, 특히 명시적 피드백과 암시적 피드백 간에 어떻게 다를까?
• RQ5 MF와 RWR가 피드백 유형에 따라 성능 차이를 보이는 근본적인 이유는 무엇인가?

주요 결과

• MF는 Movielens, FilmTrust, Epinions에서 명시적 피드백 데이터셋에서 RWR를 능가하며, precision@1, precision@2, precision@3, 스피어만의 rho 전반에서 높은 성능 기록.
• 암시적 피드백 데이터에서는 RWR가 MF를 능가하며, Lastfm에서 RWR_Side는 스피어만의 rho 0.440을 기록한 반면 MF_Side는 0.207에 그친다.
• 전역 편향 항은 MF와 RWR 양자 모두의 추천 성능 향상에 상당한 기여를 하며, 전반적인 순위 매기기 및 상위-k 예측 정확도 향상.
• 부가 정보는 MF의 명시적 피드백에서는 성능 향상(예: Movielens에서 MF_Side는 MF를 초월)을 가져오지만, RWR의 암시적 피드백에서는 성능 저하(예: Lastfm에서 RWR_Side는 RWR를 뒤지게 됨).
• 성능 격차의 근본적 원인은 암시적 피드백이 더 노이즈가 많고, 부가 정보는 이러한 환경에서 노이즈를 증폭시키기 때문이며, 반면 명시적 피드백은 부가 정보 통합에 더 강건하다.
• 전역 편향 항을 포함한 제안된 RWR 방법(RWR_Bias)은 기존 RWR보다 성능 향상을 보이며, 그래프 기반 방법에서도 편향 모델링이 유용함을 입증한다.