[논문 리뷰] Meta-Prod2Vec - Product Embeddings Using Side-Information for Recommendation

Flavian Vasile, Elena Smirnova외 1명|arXiv (Cornell University)|2016. 07. 25.

Music and Audio Processing참고 문헌 30인용 수 118

한 줄 요약

Meta-Prod2Vec는 아이템 메타데이터를 학습 측 정보로 통합하여 추천을 위한 더 나은 아이템 임베딩을 학습하고, 특히 콜드 스타트 상황에서 성능을 향상시킵니다.

ABSTRACT

We propose Meta-Prod2vec, a novel method to compute item similarities for recommendation that leverages existing item metadata. Such scenarios are frequently encountered in applications such as content recommendation, ad targeting and web search. Our method leverages past user interactions with items and their attributes to compute low-dimensional embeddings of items. Specifically, the item metadata is in- jected into the model as side information to regularize the item embeddings. We show that the new item representa- tions lead to better performance on recommendation tasks on an open music dataset.

연구 동기 및 목표

• 아이템 메타데이터를 활용하여 온라인 메모리 요구량을 늘리지 않고도 추천 성능을 개선하려는 동기 부여.
• Prod2Vec를 확장하여 사이드 정보를 포함한 더 나은 아이템 표현을 얻고자 함.
• 메타데이터가 특히 콜드 스타트 시나리오에서 다음 이벤트 예측에 미치는 영향을 평가함.
• Meta-Prod2Vec가 공개 데이터셋에서 Prod2Vec 및 CF 베이스라인과 어떻게 비교되는지 시연함.

제안 방법

• 신경망 모델의 입력 공간과 출력 공간 모두에 메타데이터를 주입하여 Prod2Vec를 확장함.
• 메타데이터와의 네 가지 상호작용 항목을 도입: L_I|M, L_J|M, L_M|I, L_M|M와 각 항의 정규화 가중치.
• 공유 임베딩 공간과 Prod2Vec 손실에 사이드 정보 손실을 결합하는 학습 목표를 사용: L_MP2V = L_J|I + λ*(L_M|I + L_J|M + L_M|M + L_I|M).
• 소프트맥스를 근사하기 위해 Word2Vec와 유사한 음수 샘플링을 사용하는 확장 가능한 학습 체계를 채택함.
• 메타데이터는 학습 중에만 사용되므로 온라인 메모리 풋프린트를 기존 임베딩 기반 시스템과 동일하게 유지.

실험 결과

연구 질문

• RQ1 메타-Prod2Vec가 메타데이터가 가능할 때 Prod2Vec보다 다음 아이템 예측을 향상시키나요?
• RQ2 각 종류의 사이드 정보가 성능 향상에 얼마나 기여하나요?
• RQ3 메타-Prod2Vec의 콜드 스타트 시나리오에서의 영향은 베이스라인과 어떻게 비교되나요?
• RQ4 메타-Prod2Vec를 CF 방법들과 효과적으로 결합하면 추천을 더 개선할 수 있나요?

주요 결과

• Meta-Prod2Vec는 HR@10, NDCG@10, HR@20, NDCG@20에서 30Music 데이터세트에 대해 독립 실행형 Prod2Vec보다 우수한 성능을 보입니다.
• 콜드 스타트 트래픽에서 Standalone Meta-Prod2Vec가 모든 베이스라인을 능가하며, Mix(Meta-Prod2Vec, CoCounts) 조합은 저빈도 쌍에서 최상의 결과를 제공합니다.
• 각 종류의 사이드 정보(I|M, M|I, J|M, M|M)가 개선에 기여하며, 표 3은 개별 유형이 전체 Meta-Prod2Vec에 비해 최대 50%의 향상 기여를 나타냅니다.
• 메타-Prod2Vec는 쿼리-다음 아이템 쌍의 제로-공출현 경우에서 특히 눈에 띄는 이득을 달성하여 콜드 스타트 시나리오에서 더 나은 일반화를 시사합니다.
• 메타데이터는 학습 중에만 사용되므로 온라인 메모리 풋프린트는 기존 임베딩 기반 시스템과 동일하게 유지됩니다.
• Mix 모델에서 CoCounts와 결합될 때 Meta-Prod2Vec가 테스트된 구성 중 가장 강한 전체 성능을 보입니다.