[논문 리뷰] Graph Factorization Machines for Cross-Domain Recommendation

Dongbo Xi, Fuzhen Zhuang외 4명|arXiv (Cornell University)|2020. 07. 12.

Recommender Systems and Techniques참고 문헌 35인용 수 5

한 줄 요약

이 논문은 그래프 구조 데이터에서 다중 순서의 이웃 상호작용을 효과적으로 집계하기 위해 인자분해 기계(Factorization Machines)를 활용하는 새로운 GNN 모델인 그래프 인자분해 기계(GFM)를 제안한다. 이를 통해 추천 성능을 향상시킨다. 또한 GFM 및 기타 GNN 모델에 적용 가능한 일반적인 교차 도메인 프레임워크를 도입하여, 다양한 실세계 데이터셋에서 희박한 데이터 상황에서 성능을 크게 향상시킨다.

ABSTRACT

Recently, graph neural networks (GNNs) have been successfully applied to recommender systems. In recommender systems, the user's feedback behavior on an item is usually the result of multiple factors acting at the same time. However, a long-standing challenge is how to effectively aggregate multi-order interactions in GNN. In this paper, we propose a Graph Factorization Machine (GFM) which utilizes the popular Factorization Machine to aggregate multi-order interactions from neighborhood for recommendation. Meanwhile, cross-domain recommendation has emerged as a viable method to solve the data sparsity problem in recommender systems. However, most existing cross-domain recommendation methods might fail when confronting the graph-structured data. In order to tackle the problem, we propose a general cross-domain recommendation framework which can be applied not only to the proposed GFM, but also to other GNN models. We conduct experiments on four pairs of datasets to demonstrate the superior performance of the GFM. Besides, based on general cross-domain recommendation experiments, we also demonstrate that our cross-domain framework could not only contribute to the cross-domain recommendation task with the GFM, but also be universal and expandable for various existing GNN models.

연구 동기 및 목표

• 평균 또는 풀링과 같은 단순한 집계 메커니즘으로 인해 기존 GNN 모델이 복잡한 다중 순서 특성 상호작용을 포착하는 데에 한계가 있음.
• 그래프 구조 데이터를 활용하여 효과적인 교차 도메인 지식 전이를 가능하게 하여 추천 시스템의 데이터 희박성 문제를 해결함.
• 특정 아키텍처에 국한되지 않고 다양한 GNN 모델과 호환 가능한 일반화 가능한 교차 도메인 추천 프레임워크를 개발함.
• 공유된 노드 초기화 및 공유된 그래프 파라미터를 통해 도메인 공유 및 도메인 특화 표현을 함께 학습함으로써 추천 성능 향상.
• 다양한 실세계 데이터셋과 여러 GNN 기준 모델을 대상으로 제안된 GFM 및 교차 도메인 프레임워크의 효과성을 입증함.

제안 방법

• 희박하고 고차원적인 사용자-아이템 상호작용에서 특성 상호작용을 효과적으로 모델링할 수 있도록, 두 번째 순서의 이웃 메시지를 집계하는 데 인자분해 기계를 사용하는 그래프 인자분해 기계(GFM)를 제안함.
• 반복적인 메시지 전달을 통해 다중 GFM 레이어를 스택하여 고차원 이웃 정보를 포착함으로써, 제1차 상호작용을 초월한 표현 학습을 향상시킴.
• 공유된 표현(예: 공유되는 사용자 또는 아이템)을 사용해 소스 도메인과 타겟 도메인의 노드를 초기화함으로써, 도메인 공유 지식 전이를 가능하게 하는 일반적인 교차 도메인 추천 프레임워크를 설계함.
• 각 도메인의 그래프 구조를 기반으로 도메인 특화 그래프 표현을 함께 최적화하면서, 도메인 간에 그래프 파라미터를 공유함으로써 일관성을 유도함.
• 추론 시점에 도메인 공유 및 도메인 특화 특징을 조합하여 최종 예측을 생성함으로써, 이전에 전이 가능한 패턴과 고유한 패턴을 모두 활용할 수 있도록 함.
• GCN, GAT, GraphSAGE 등의 다양한 GNN 모델에 프레임워크를 적용하여, GFM을 초월한 보편성과 확장성을 입증함.

실험 결과

연구 질문

• RQ1 기존 GNN 모델에 비해 인자분해 기계를 활용하는 GNN 모델이 그래프 구조 추천 시스템에서 다중 순서 특성 상호작용을 더 잘 포착할 수 있는가?
• RQ2 희박하고 그래프 구조 데이터를 가진 도메인 간 지식 전이를 위해 제안된 교차 도메인 프레임워크가 추천 성능 향상에 얼마나 효과적인가?
• RQ3 GCN, GAT, GraphSAGE와 같은 다양한 GNN 아키텍처에 대해 제안된 프레임워크가 얼마나 일반화되는가?
• RQ4 공유된 노드 초기화가 도메인 특화 표현만을 사용하는 것에 비해 교차 도메인 추천 과제에서 성능 향상에 뚜렷한 기여를 하는가?
• RQ5 도메인 공유 및 도메인 특화 특징의 조합이 단독으로 사용할 경우보다 더 나은 성능을 낼 수 있는가?

주요 결과

• 제안된 GFM 모델은 네 개인 실세계 교차 도메인 추천 데이터셋에서 최신 기준 성능을 달성하며, FM, GCN, GAT 등 여러 강력한 기준 모델을 능가함.
• CD-GFM(교차 도메인 GFM)는 기본 GFM 모델 대비 평균 HR@1을 25.2% 향상시키고, 평균 HR@10을 10.5% 향상시켜 교차 도메인 프레임워크의 효과성을 입증함.
• 절단 실험 결과, 공유된 노드 초기화 구성 요소가 성능 향상에 크게 기여함을 확인하였으며, 모든 테스트 데이터셋에서 p값 < 0.05를 기록하여 통계적 유의성을 보임.
• 40개의 다양한 작업(4개의 데이터셋 쌍 × 10개의 모델)에서 일반적인 교차 도메인 프레임워크가 성능 향상을 보이며, GCN, GAT, GraphSAGE 변형 모두에서 일관된 성과를 기록함.
• GCN에서 성능 향상이 가장 두드러지게 나타나는 것은, 단일 도메인 설정에서 GCN의 성능이 약한 데 기인할 수 있으며, 이는 프레임워크가 약한 기본 모델을 보완할 수 있음을 시사함.
• GraphSAGE에서 평균 및 풀링과 같은 간단한 집계기법을 사용할 때도 프레임워크가 강건하고 효과적이므로, 다양한 GNN 아키텍처와 넓은 호환성을 가짐.