[논문 리뷰] HAKG: Hierarchy-Aware Knowledge Gated Network for Recommendation

Yuntao Du, Xinjun Zhu외 3명|arXiv (Cornell University)|2022. 04. 11.

Recommender Systems and Techniques인용 수 5

한 줄 요약

HAKG는 사용자-아이템 상호작용과 지식 그래프(KG) 관계를 초구형 공간에서 모델링하여 계층적 구조와 고차원 협업 신호를 포착하는 계층 인지 지식 게이팅 네트워크를 제안한다. 이중 아이템 임베딩과 게이팅 집계 기법을 통해 HAKG는 추천 성능과 해석 가능성을 향상시켜 CKAN, Hyper-Know, KGIN과 같은 최신 기법들을 초월한다. 이는 세 가지 벤치마크 데이터셋에서 입증된다.

ABSTRACT

Knowledge graph (KG) plays an increasingly important role to improve the recommendation performance and interpretability. A recent technical trend is to design end-to-end models based on information propagation schemes. However, existing propagation-based methods fail to (1) model the underlying hierarchical structures and relations, and (2) capture the high-order collaborative signals of items for learning high-quality user and item representations. In this paper, we propose a new model, called Hierarchy-Aware Knowledge Gated Network (HAKG), to tackle the aforementioned problems. Technically, we model users and items (that are captured by a user-item graph), as well as entities and relations (that are captured in a KG) in hyperbolic space, and design a hyperbolic aggregation scheme to gather relational contexts over KG. Meanwhile, we introduce a novel angle constraint to preserve characteristics of items in the embedding space. Furthermore, we propose a dual item embeddings design to represent and propagate collaborative signals and knowledge associations separately, and leverage the gated aggregation to distill discriminative information for better capturing user behavior patterns. Experimental results on three benchmark datasets show that, HAKG achieves significant improvement over the state-of-the-art methods like CKAN, Hyper-Know, and KGIN. Further analyses on the learned hyperbolic embeddings confirm that HAKG offers meaningful insights into the hierarchies of data.

연구 동기 및 목표

• 기존의 지식 인지 추천 모델이 지식 그래프 내 계층적 구조와 관계를 포착하는 데에 한계가 있음을 해결하고자 한다.
• KG 중심 집계 기법보다 사용자-아이템 상호작용에서 유래한 고차원 협업 신호를 더 효과적으로 모델링하고자 한다.
• 초구형 공간에서 계층적 특성을 유지함으로써 사용자 및 아이템 표현 학습을 향상시키고자 한다.
• 협업 신호와 지식 연관성을 구분하고 통합할 수 있는 통합 프레임워크를 설계하고자 한다.
• 사용자 행동 패턴 모델링을 위해 선택적으로 분별성 있는 정보를 추출하는 게이팅 집계 기법을 개발하고자 한다.

제안 방법

• 계층적 데이터에서의 왜곡을 줄이기 위해 Poincaré 구의 기하학을 사용하여 사용자-아이템 상호작용과 KG 엔티티/관계를 초구형 공간에서 모델링한다.
• 계층적 관계를 존중하면서 KG를 따라 관계적 맥락을 전파하는 초구형 집계 기법을 설계한다.
• 임베딩 공간에서 아이템의 구조적 특성을 유지하기 위해 초구형 공간에 각도 제약 조건을 도입한다.
• 협업 신호(사용자-아이템 상호작용에서 유래)를 위한 하나의 임베딩과 지식 연관성(지식 그래프에서 유래)을 위한 다른 하나의 임베딩을 제안한다.
• 사용자 행동 패턴에 따라 양쪽 임베딩의 정보를 동적으로 통합하는 게이팅 집계 기법을 구현한다.
• 사용자-아이템 상호작용과 KG를 하나의 이질적 그래프로 통합하여 엔드 투 엔드 학습을 위한 통합 그래프 학습 프레임워크를 사용한다.

실험 결과

연구 질문

• RQ1 지식 그래프 내 계층적 구조를 어떻게 더 잘 모델링할 수 있을까? 이를 통해 추천 성능을 향상시킬 수 있는가?
• RQ2 초구형 공간 모델링이 계층적 사용자-아이템 및 KG 데이터에서 왜곡을 얼마나 줄이는가?
• RQ3 협업 신호와 지식 연관성을 분리하면 추천에서 표현 학습에 도움이 되는가?
• RQ4 게이팅 기법이 사용자 행동 패턴 모델링을 위해 분별성 있는 신호를 선택하는 데 얼마나 효과적인가?
• RQ5 세분화된 계층적 관계(예: 분류 체계 링크)의 통합은 더 나은 해석 가능성과 성능 향상으로 이어지는가?

주요 결과

• HAKG는 Alibaba-iFashion, Amazon-Book, Yelp의 세 가지 벤치마크 데이터셋에서 최신 기법인 CKAN, Hyper-Know, KGIN에 비해 뚜렷한 성능 향상을 보였다.
• 모든 데이터셋에서 순위 및 정확도 지표에서 뛰어난 성능을 보였으며, 일관된 개선 효과를 확인했다.
• 학습된 초구형 임베딩의 시각화 결과, HAKG가 아이템의 분류 관계와 같은 계층적 구조를 효과적으로 포착하고 있음을 확인했다.
• 제거 실험 결과, 이중 임베딩 설계와 게이팅 집계 기법이 성능 향상에 필수적임을 입증했으며, 각 구성 요소가 뚜렷한 기여를 했다.
• 초구형 공간 내의 각도 제약 조건은 아이템의 특성을 유지하여, 계층적 관계와 비계층적 관계를 더 잘 구분할 수 있는 능력을 향상시켰다.
• 초구형 기하학의 사용은 특히 희소하거나 계층적인 데이터에 대해 더 컴act하고 의미 있는 표현을 만들어 냈다.