[논문 리뷰] Metric Factorization: Recommendation beyond Matrix Factorization

Shuai Zhang, Lina Yao외 4명|arXiv (Cornell University)|2018. 02. 13.

Recommender Systems and Techniques참고 문헌 30인용 수 31

한 줄 요약

이 논문은 저차원 공간에서 사용자-아이템 관계를 모델링하기 위해 행렬 분해에서 내적 대신 유클리드 거리를 사용하는 새로운 추천 접근법인 Metric Factorization를 제안한다. 이는 표현력과 일반화 능력을 향상시킨다. 다양한 실세계 데이터셋에서의 실험 결과, 이는 평점 예측 및 아이템 순위 매기기 작업 모두에서 최신 기술보다 뛰어난 성능을 보였다.

ABSTRACT

In the past decade, matrix factorization has been extensively researched and has become one of the most popular techniques for personalized recommendations. Nevertheless, the dot product adopted in matrix factorization based recommender models does not satisfy the inequality property, which may limit their expressiveness and lead to sub-optimal solutions. To overcome this problem, we propose a novel recommender technique dubbed as {\em Metric Factorization}. We assume that users and items can be placed in a low dimensional space and their explicit closeness can be measured using Euclidean distance which satisfies the inequality property. To demonstrate its effectiveness, we further designed two variants of metric factorization with one for rating estimation and the other for personalized item ranking. Extensive experiments on a number of real-world datasets show that our approach outperforms existing state-of-the-art by a large margin on both rating prediction and item ranking tasks.

연구 동기 및 목표

• 내적 기반 유사도 측정에서 삼각 부등식이 성립하지 않는다는 한계를 해결하기 위해.
• 공유된 임bedding 공간에서 기하학적 거리로 사용자 및 아이템 간 관계를 모델링하여 모델의 표현력 향상과 과적합 감소를 도모하기 위해.
• 평점 예측 및 개인화된 아이템 순위 매기기 작업에 모두 적용 가능한 통합 프레임워크를 개발하기 위해.
• 유클리드 거리 기반 모델링이 내적 기반 접근법에 비해 더 나은 일반화 및 강인성을 제공함을 입증하기 위해.

제안 방법

• 사용자와 아이템을 저차원 유클리드 공간 내 점으로 표현하며, 사용자-아이템 상호작용은 그들 간의 쌍별 거리로 모델링된다.
• 기존 표준 행렬 분해에서 사용하는 내적 대신 L2 거리(유클리드 거리)를 사용자 및 아이템 임베딩 간의 유사도 측정으로 사용한다.
• 두 가지 변형을 설계: 평점 예측을 위한 거리-평가 변환 함수를 사용하는 버전과 신뢰도 가중치를 적용한 마진 기반 손실을 사용하는 아이템 순위 매기기 버전.
• 노이즈가 많거나 희박한 피드백, 특히 암시적 피드백 설정에서의 영향을 줄이기 위해 하이퍼파라미터 α를 통해 신뢰도 가중치를 통합한다.
• 특히 평점 예측에서 일반화 능력을 향상시키기 위해 훈련 중 드롭아웃 정규화를 적용한다.
• L2 정규화와 적응형 학습률을 사용한 확률적 경사 하강법으로 모델을 최적화한다.

실험 결과

연구 질문

• RQ1 행렬 분해에서 내적을 유클리드 거리로 대체할 경우, 추천 성능 향상이 이루어지는가?
• RQ2 거리 기반 기하학적 해석을 통해 사용자-아이템 관계를 모델링하면 표현력과 일반화 능력이 향상되는가?
• RQ3 Metric Factorization는 평점 예측 및 아이템 순위 매기기 작업 모두에서 최신 기술 모델과 비교해 어떻게 성능을 내는가?
• RQ4 차원 수, 클립 값, 신뢰 수준 등의 하이퍼파라미터가 모델 성능에 크게 영향을 미치는가? 그리고 어떻게 튜닝해야 하는가?
• RQ5 잠재 차원 수를 늘릴 경우 과적합에 대해 모델이 강인한가?

주요 결과

• 다양한 데이터셋에서 Metric Factorization는 BiasedSVD 및 기타 최신 기술 모델보다 평점 예측 작업에서 유의미하게 낮은 RMSE를 기록했다.
• 아이템 순위 매기기 작업에서는 WRMF 및 기타 베이스라인보다 일관되게 뛰어난 성능을 보였으며, 특히 고차원 임베딩에서 성능 향상이 두드러져 스케일링 능력 향상과 과적합 감소를 시사한다.
• 과적합에 대한 강인성이 향상되어, WRMF와 달리 잠재 차원 수 k를 늘릴수록 성능이 향상됨을 확인했다.
• 신뢰도 파라미터 α는 노이즈가 많은 평점에 대한 민감도를 낮추고, 긍정적/부정적 피드백 간의 구분 능력을 향상시켜 모델 성능을 향상시킨다.
• 드롭아웃은 평점 예측에서 성능 향상에 기여하지만, 아이템 순위 매기기 변형에서는 효과가 덜한 것으로 나타나, 작업 간 정규화 요구 사항이 다름을 시사한다.
• 거리 척도 인자 a는 성능에 미미한 영향을 미치며, a ≈ 2.0에서 최적 성능를 기록함을 통해 모델이 다양한 값 범위에서 안정적임을 입증한다.