[논문 리뷰] HGCH: A Hyperbolic Graph Convolution Network Model for Heterogeneous Collaborative Graph Recommendation

Lu Zhang, Ning Wu|arXiv (Cornell University)|2023. 04. 06.

Recommender Systems and Techniques인용 수 7

한 줄 요약

이 논문은 노드 초기화를 위해 파워 레인지 전제를 활용하고, 기하학적 중간점 방법을 통해 쌍곡 공간에서의 정보 전파를 수행하며, 부가 정보를 위한 게이트 퓨전 기법을 도입한 쌍곡 그래프 컨볼루션 네트워크인 HGCC를 제안한다. 이는 쌍곡 공간에서 계층적이고 긴 尾部 분포를 띠는 사용자-아이템 상호작용 구조를 더 잘 모델링함으로써 네 가지 실세계 데이터셋에서 최신 기준 성능을 달성한다.

ABSTRACT

User-item interaction data in collaborative filtering and graph modeling tasks often exhibit power-law characteristics, which suggest the suitability of hyperbolic space modeling. Hyperbolic Graph Convolution Neural Networks (HGCNs) are a novel technique that leverages the advantages of GCN and hyperbolic space, and then achieves remarkable results. However, existing HGCN methods have several drawbacks: they fail to fully leverage hyperbolic space properties due to arbitrary embedding initialization and imprecise tangent space aggregation; they overlook auxiliary information that could enrich the collaborative graph; and their training convergence is slow due to margin ranking loss and random negative sampling. To overcome these challenges, we propose Hyperbolic Graph Collaborative for Heterogeneous Recommendation (HGCH), an enhanced HGCN-based model for collaborative filtering that integrates diverse side information into a heterogeneous collaborative graph and improves training convergence speed. HGCH first preserves the long-tailed nature of the graph by initializing node embeddings with power law prior; then it aggregates neighbors in hyperbolic space using the gyromidpoint method for accurate computation; finally, it fuses multiple embeddings from different hyperbolic spaces by the gate fusion with prior. Moreover, HGCH employs a hyperbolic user-specific negative sampling to speed up convergence. We evaluate HGCH on four real datasets, and the results show that HGCH achieves competitive results and outperforms leading baselines, including HGCNs. Extensive ablation studies further confirm its effectiveness.

연구 동기 및 목표

• 기존의 쌍곡 GCN이 쌍곡 공간의 곡률을 충분히 활용하지 못하고 부가 정보를 忽略하는 한계를 해결하기 위해.
• 사용자-아이템 상호작용과 부가 정보(예: 공구매, 친구 관계 등)의 계층적이고 파워 레인지 특성을 쌍곡 기하학을 통해 모델링하기 위해.
• 구조적 전제를 통합함으로써 노드 표현 학습을 향상시키고, 쌍곡 공간에서 정확한 정보 집약을 가능하게 하기 위해.
• 다양한 부가 정보 그래프에서 유래한 다수의 쌍곡 임베딩을 사전 지식을 반영한 학습 가능한 게이트를 통해 융합하기 위해.

제안 방법

• 파워 레인지 전제 기반 초기화는 인기도 기반으로 노드 임베딩을 할당하여 쌍곡 공간의 계층적 구조와 일치시킨다.
• 쌍곡 정보 전파에서는 탄성 공간 근사치를 피하기 위해 이웃 노드를 직접 쌍곡 공간에서 집약하는 기하학적 중간점 방법을 사용한다.
• 다양한 간선 유형(예: 사용자-아이템, 아이템-아이템, 사용자-사용자)을 별도로 모델링하기 위해 다수의 쌍곡 하위공간을 사용한다.
• 사전 지식을 반영한 게이트 퓨전은 서로 다른 하위공간에서 유래한 임베딩을 융합하며, 게이트는 구조적 전제로 초기화되어 학습 안정성과 성능 향상을 도모한다.
• 이질적인 협업 그래프에서 고차원 연결성을 포착하기 위해 다수의 레이어를 스택한다.
• 추천 작업의 최종 점수 예측에 Poincaré 거리가 사용된다.

실험 결과

연구 질문

• RQ1 파워 레인지 전제는 쌍곡 GCN의 노드 초기화에 성능 향상을 가져올 수 있는가?
• RQ2 기하학적 중간점 방법을 통한 직접적인 쌍곡 공간 집약은 탄성 공간 근사치보다 더 정확한 정보 전파를 이끌 수 있는가?
• RQ3 다양한 간선 유형에서 유래한 부가 정보를 효과적으로 융합하여 추천 성능을 향상시킬 수 있는가?
• RQ4 사전 지식을 반영한 게이트 퓨전은 표준 융합 방법보다 더 나은 성능을 낼 수 있는가?

주요 결과

• HGCC는 네 개의 실세계 데이터셋에서 표준 및 쌍곡 GCN을 포함한 모든 베이스라인을 압도하며 최신 기준 성능을 입증한다.
• 제거 실험 결과, 탄성 공간 전파 대비 쌍곡 공간 전파(HGCN+HI)가 성능 향상에 뚜렷한 기여를 한다.
• 파워 레인지 전제 기반 초기화(HGCN+PI)는 특히 Amazon-Book에서 뚜렷한 성능 향상을 이끌어내어 초기 임베딩 유도에 효과적임을 입증한다.
• 파워 레인지 초기화와 쌍곡 전파의 조합(HGCN+PI+HI)은 Amazon-Book에서 성능 향상을 더 높였지만, Yelp2022에서는 그렇지 않아 데이터셋 특성에 따라 다르게 작용함을 시사한다.
• 사전 지식을 반영한 게이트 퓨전(HGCC+)은 표준 게이트 퓨전 및 기존 베이스라인을 모두 압도하며, 다양한 데이터셋에서 뛰어난 강인성을 보였다.
• 시각화 결과, 파워 레인지 초기화와 부가 정보가 인기 있는 아이템을 Poincaré 원판의 중심에 집중시키며, 쌍곡 기하학과 일치하고 클래스 간 분리도 향상됨을 확인했다.