[논문 리뷰] Modelling High-Order Social Relations for Item Recommendation

Yang Liu, Liang Chen외 4명|arXiv (Cornell University)|2020. 03. 23.

Recommender Systems and Techniques참고 문헌 40인용 수 13

한 줄 요약

이 논문은 고차수 사회적 관계—친구의 친구—를 명시적으로 모델링하기 위해 사회 네트워크를 통해 사용자 임베딩을 반복적으로 전파하는 그래프 신경망 기반 모델인 High-Order Social Recommender(HOSR)를 제안한다. HOSR는 주목사용자 기반의 다중 순서 이웃 집합화와 주목사용자 기반의 주목사용자 메커니즘을 통해 간접적인 사회적 영향을 효과적으로 포착함으로써, Yelp 및 Douban 데이터셋에서 NSCR, IF-BPR+, DeepInf와 같은 최신 기법들을 능가한다.

ABSTRACT

The prevalence of online social network makes it compulsory to study how social relations affect user choice. However, most existing methods leverage only first-order social relations, that is, the direct neighbors that are connected to the target user. The high-order social relations, e.g., the friends of friends, which very informative to reveal user preference, have been largely ignored. In this work, we focus on modeling the indirect influence from the high-order neighbors in social networks to improve the performance of item recommendation. Distinct from mainstream social recommenders that regularize the model learning with social relations, we instead propose to directly factor social relations in the predictive model, aiming at learning better user embeddings to improve recommendation. To address the challenge that high-order neighbors increase dramatically with the order size, we propose to recursively "propagate" embeddings along the social network, effectively injecting the influence of high-order neighbors into user representation. We conduct experiments on two real datasets of Yelp and Douban to verify our High-Order Social Recommender (HOSR) model. Empirical results show that our HOSR significantly outperforms recent graph regularization-based recommenders NSCR and IF-BPR+, and graph convolutional network-based social influence prediction model DeepInf, achieving new state-of-the-arts of the task.

연구 동기 및 목표

• 기존의 사회적 추천 시스템이 제1차 사회적 관계(직접 친구)만을 모델링하는 데서 비롯하는 한계를 해결하기 위해, 친구의 친구로부터 온 간접적 영향을 간과하는 문제를 해결한다.
• 암묵적인 정규화를 사용하는 대신, 고차수 사회적 영향을 사용자 표현 학습 과정에 명시적으로 통합한다.
• 실제 사회 네트워크에서 고차수 이웃 집합의 지수적 증가로 인한 계산적 과제를 해결한다.
• 반복적 임베딩 전파와 주목사용자 기반 메커니즘을 통해 구강 영향 전파를 모델링함으로써 추천 성능을 향상시킨다.

제안 방법

• HOSR는 제1차, 제2차, 제3차 등 다양한 순서의 이웃에서 영향을 포착하기 위해 사회 네트워크 경로를 따라 사용자 임베딩을 반복적으로 전파하는 그래프 컬러레이션 네트워크(GCN)를 사용한다.
• 다양한 순서의 이웃(예: 1차, 2차, 3차)에 대해 개인화된 가중치를 학습하기 위해 주목사용자 기반 메커니즘을 도입하여, 가장 정보적인 사회적 경로에 집중할 수 있도록 한다.
• 다양한 순서의 이웃 표현을 통합하기 위해, 각각 다른 순서의 사회적 영향을 포착하는 다중 GCN 레이어의 출력을 집계한다.
• 입력 레이어와 출력 레이어에 두 가지 드롭아웃 전략을 적용한다: 희소한 사회적 연결으로 인한 과적합을 방지하기 위한 입력 레이어 드롭아웃과, 최종 사용자 임베딩을 정규화하기 위한 출력 레이어 드롭아웃.
• 다중 홉을 넘는 이웃들로부터 정보를 집계하는 메시지 전파를 통해 사용자 임베딩을 업데이트함으로써, 간접적인 사회적 영향을 효과적으로 모델링한다.
• 최종 예측은 공동 필터링 프레임워크 내에서 향상된 사용자 임베딩과 아이템 임베딩을 결합함으로써 이루어진다.

실험 결과

연구 질문

• RQ1 제1차 모델과 비교해 고차수 사회적 관계(예: 친구의 친구)를 모델링하는 것이 아이템 추천 성능을 크게 향상시킬 수 있는가?
• RQ2 과도한 계산 비용 없이도 고차수 사회적 영향을 사용자 표현 학습에 효율적이고 효과적으로 통합할 수 있는가?
• RQ3 예측 모델 내에서 사회적 영향을 명시적으로 모델링하는 것이, 사회 제약 조건을 보조 손실 항목으로 사용하는 정규화 기반 접근법보다 성능이 뛰어나게 되는가?
• RQ4 다양한 순서의 사회적 이웃은 사용자 선호도 예측에 어떻게 기여하며, 주목사용자 기반 메커니즘이 그 중요도를 동적으로 가중할 수 있는가?
• RQ5 사회 네트워크 홉을 넘는 반복적 임베딩 전파가 실제 사회 네트워크에서 관찰되는 '소문의 전파' 효과를 포착할 수 있는가?

주요 결과

• HOSR는 Yelp 및 Douban 데이터셋에서 모두 최신 기법인 NSCR, IF-BPR+와 같은 그래프 정규화 기반 모델들을 능가하는 최고 성능을 달성한다.
• 제1차 모델이 간과하는 고차수 이웃으로부터 온 간접적 사회적 영향을 포착함으로써 추천 정확도가 크게 향상된다.
• 주목사용자 기반의 다중 순서 집합화를 통해 다양한 이웃 순서의 기여도를 동적으로 가중할 수 있어 모델의 강건성이 향상된다.
• 실험 결과, HOSR는 사회적 연결이 희소한 사용자에게 특히 뛰어난 성능을 보이며, 고차수 영향이 핵심 신호를 제공함을 확인했다.
• 제거 실험을 통해 반복적 임베딩 전파와 주목사용자 기반 집합화가 모두 필수적인 구성 요소임을 확인했으며, 각각 성능 향상에 기여했다.