[논문 리뷰] Causal Inference for Knowledge Graph based Recommendation

Yinwei Wei, Xiang Wang외 4명|arXiv (Cornell University)|2022. 12. 20.

Advanced Graph Neural Networks인용 수 9

한 줄 요약

이 논문은 지식 그래프 기반 추천에서 효율적인 성능을 위해 해밍 공간 내에서 제1차 및 고차 해밍 유사도를 모델링하는 새로운 그래프 컨볼루션 네트워크인 HS-GCN을 제안한다. 해시 코드 집합 및 인코딩을 통해 이진 해시 코드 위에서 직접 그래프 컨볼루션을 수행함으로써, 세 가지 벤치마크 데이터셋에서 실수값 모델과 비교해도 최신 기술 수준의 성능을 달성한다.

ABSTRACT

Knowledge Graph (KG), as a side-information, tends to be utilized to supplement the collaborative filtering (CF) based recommendation model. By mapping items with the entities in KGs, prior studies mostly extract the knowledge information from the KGs and inject it into the representations of users and items. Despite their remarkable performance, they fail to model the user preference on attributes in the KG, since they ignore that (1) the structure information of KG may hinder the user preference learning, and (2) the user's interacted attributes will result in the bias issue on the similarity scores. With the help of causality tools, we construct the causal-effect relation between the variables in KG-based recommendation and identify the reasons causing the mentioned challenges. Accordingly, we develop a new framework, termed Knowledge Graph-based Causal Recommendation (KGCR), which implements the deconfounded user preference learning and adopts counterfactual inference to eliminate bias in the similarity scoring. Ultimately, we evaluate our proposed model on three datasets, including Amazon-book, LastFM, and Yelp2018 datasets. By conducting extensive experiments on the datasets, we demonstrate that KGCR outperforms several state-of-the-art baselines, such as KGNN-LS, KGAT and KGIN.

연구 동기 및 목표

• 기존 해싱 기반 추천 시스템이 제1차 해밍 유사도만 모델링하여 표현 능력이 최적화되지 않은 문제를 해결하기 위해.
• 간접적인 사용자-아이템 관계에서 유도된 고차 해밍 유사도를 명시적으로 캡처하기 위해 사용자-아이템 이분 그래프 구조를 통해.
• 유클리드 공간에서 이진 값으로의 변환 과정에서 정보 손실을 방지하기 위해 해밍 공간에서 직접 작동하는 그래프 컨볼루션 네트워크를 개발하기 위해.
• 실수값 모델과 경쟁 가능한 성능을 달성하면서도 효율적이고 확장 가능한 추천을 구현하기 위해.

제안 방법

• 기존 상호작용 데이터로부터 사용자-아이템 이분 그래프를 구성하여 제1차 및 고차 유사도를 모두 표현한다.
• 해밍 공간 내에서 새로운 그래프 컨볼루션 연산을 도입하며, 이는 두 구성 요소로 이루어진다: 해시 코드 집합 및 해시 코드 인코딩.
• 해시 코드 집합은 이웃 노드의 코드 비트별 부호(다数 투표)를 계산하여 국소적 해밍 유사도를 요약한다.
• 해시 코드 인코딩은 이웃의 주요 부호와 일치하는 비트를 반전시켜 각 노드의 해시 코드를 개선함으로써 해밍 유사도를 코드에 통합한다.
• 다중 전파 레이어를 스택하여 반복적으로 해시 코드를 정밀화함으로써 엔드 투 엔드 최적화를 가능하게 한다.
• 학습된 해밍 공간 내 표현을 기반으로 최종 스코어링 레이어를 통해 사용자-아이템 상호작용을 예측한다.

Figure 1: Illustration of the high-order and the first-order Hamming similarity in learning to hash.

실험 결과

연구 질문

• RQ1 해밍 공간 내에서 고차 해밍 유사도를 모델링하면 해시 코드의 표현 능력이 추천 성능에 어떻게 향상되는가?
• RQ2 실수값 임베딩에 의존하지 않고 이진 해시 코드 위에서 효과적으로 그래프 컨볼루션 연산을 수행할 수 있는 방법은 무엇인가?
• RQ3 간접적인 사용자-아이템 관계를 고차 유사도를 통해 명시적으로 캡처하면 제1차 유사도 전용 방법보다 더 나은 추천 성능을 낼 수 있는가?
• RQ4 해밍 공간에서 작동하는 GCN은 PinSage 및 GraphSAGE와 같은 실수값 추천 모델과 비교해도 경쟁 가능한 성능을 달성할 수 있는가?

주요 결과

• HS-GCN은 세 가지 공개 벤치마크 데이터셋에서 몇 가지 최신 기술 수준의 해싱 기반 추천 모델보다 뚜렷이 뛰어난 성능을 보였다.
• 이중 해시 코드를 사용하고도 PinSage 및 GraphSAGE와 같은 실수값 모델과 비교해도 추천 성능이 유사하게 유지됨을 확인하였다.
• 제거 분석 결과, 고차 해밍 유사도를 모델링함으로써 제1차 유사도 전용 방법 대비 성능 향상이 상당히 기여하는 것으로 확인되었다.
• 해밍 공간 내 그래프 컨볼루션을 사용한 엔드 투 엔드 학습은 일정 시간 복잡도를 가진 검색 잠재력을 제공하며 효율적이고 확장 가능한 추천을 가능하게 하였다.
• 모델은 다양한 데이터셋에서 안정적인 성능을 보이며 대규모 추천 환경에서의 일반화 능력을 입증하였다.