[논문 리뷰] div2vec: Diversity-Emphasized Node Embedding

Ji-Su Jeong, Jeong-Min Yun외 4명|arXiv (Cornell University)|2020. 09. 21.

Recommender Systems and Techniques참고 문헌 19인용 수 4

한 줄 요약

이 논문은 DeepWalk과 node2vec와 같은 전통적인 방법과는 반대로 낮은 차수의 노드를 더 자주 샘플링함으로써 추천 다양성을 향상시키는 랜덤 워크 기반 노드 임베딩 방법인 div2vec을 제안한다. 차수 기반 샘플링 확률을 반전시킴으로써 div2vec은 랜덤 워크에서 더 균일한 노드 표현을 보장하여 MovieLens, WATCHA, LINE Wallet Coupon에서 오프라인 및 실세계 평가에서 정확도와 다양성 양면에서 향상된다.

ABSTRACT

Recently, the interest of graph representation learning has been rapidly increasing in recommender systems. However, most existing studies have focused on improving accuracy, but in real-world systems, the recommendation diversity should be considered as well to improve user experiences. In this paper, we propose the diversity-emphasized node embedding div2vec, which is a random walk-based unsupervised learning method like DeepWalk and node2vec. When generating random walks, DeepWalk and node2vec sample nodes of higher degree more and nodes of lower degree less. On the other hand, div2vec samples nodes with the probability inversely proportional to its degree so that every node can evenly belong to the collection of random walks. This strategy improves the diversity of recommendation models. Offline experiments on the MovieLens dataset showed that our new method improves the recommendation performance in terms of both accuracy and diversity. Moreover, we evaluated the proposed model on two real-world services, WATCHA and LINE Wallet Coupon, and observed the div2vec improves the recommendation quality by diversifying the system.

연구 동기 및 목표

• 추천 시스템을 위한 기존 그래프 표현 학습 방법에서의 다양성 부족 문제를 해결하기 위해.
• 높은 차수의 인기 있는 항목에 너무 집중하지 않도록 함으로써 사용자 경험을 향상시키기 위해.
• 학습된 표현에서 다양성을 명시적으로 촉진하는 비지도, 랜덤 워크 기반의 노드 임베딩 방법을 개발하기 위해.
• 다양성 중심의 샘플링이 정확도 외에도 더 나은 추천 품질을 이끌어내는지 검증하기 위해.

제안 방법

• div2vec은 노드의 차수에 반비례하는 확률을 할당함으로써 랜덤 워크 프로세스를 수정한다.
• DeepWalk과 node2vec가 고차수 노드를 선호하는 것과는 달리, div2vec은 저차수 노드 선택 확률을 높인다.
• 이를 통해 생성된 다양한 랜덤 워크에서 노드 임베딩을 학습하기 위해 스킵그램 프레임워크를 유지한다.
• 노드 임베딩은 음성 샘플링을 사용하여 다양성 인식 워크 생성을 고려한 스킵그램 목표를 최적화함으로써 훈련된다.
• 이 방법은 비지도이며, 라벨된 사용자 피드백이나 명시적 다양성 제약 조건이 필요하지 않다.
• 최종 임베딩은 추후 추천 작업에 사용되어 정확도 및 다양성 메트릭 모두를 향상시킨다.

실험 결과

연구 질문

• RQ1 정확도를 희생시키지 않고도 랜덤 워크 기반의 노드 임베딩 방법이 추천 다양성을 향상시킬 수 있는가?
• RQ2 차수 비례 샘플링과 비교해 역차수 샘플링이 랜덤 워크 내 노드 분포에 어떤 영향을 미치는가?
• RQ3 제안된 방법이 합성 벤치마크를 넘어서 실세계 시스템에서 더 나은 추천 품질을 이끌어내는가?
• RQ4 실제 운영 환경에서 추천의 다양성이 사용자 참여도와 어느 정도 상관관계를 가지는가?

주요 결과

• div2vec은 MovieLens 데이터셋에서 정확도 지표를 유지하거나 향상시키면서도 추천 다양성을 크게 향상시켰다.
• coverage 및 인라인 유사도와 같은 표준 다양성 메트릭을 통해 div2vec은 DeepWalk과 node2vec보다 높은 다양성 점수를 기록했다.
• WATCHA 및 LINE Wallet Coupon에서의 실세계 구현에서 div2vec은 더 다양한 추천을 이끌어내어 사용자 경험을 향상시켰다.
• 오프라인 평가를 통해 역차수 샘플링이 그래프 전반에 걸쳐 더 균일하게 분포된 노드 표현을 이끌어낸다는 것이 확인되었다.
• 결과적으로, 전략적 샘플링을 통한 랜덤 워크 생성에서 다양성을 명시적으로 향상시킬 수 있음을 보여주었다.
• div2vec은 정확도와 다양성 양면에서 베이스라인 방법을 능가하여 실용적 추천 시스템에서의 효과성을 입증했다.