[논문 리뷰] IA-GCN: Interactive Graph Convolutional Network for Recommendation

Yinan Zhang, Pei Wang외 8명|arXiv (Cornell University)|2022. 04. 08.

Recommender Systems and Techniques인용 수 9

한 줄 요약

IA-GCN는 메시지 전파 중 사용자 및 아이템 트리 간의 상호작용적이고 목표에 특화된 어텐션을 도입함으로써 사용자 및 아이템 표현 학습을 향상시키는 새로운 그래프 컬러션 네트워크를 제안한다. 대상 아이템 또는 사용자와의 유사도를 기반으로 이웃을 동적으로 가중치를 적용함으로써 선호도 예측 정확도를 향상시키며, Amazon Book에서 최대 15%의 상대적 향상률을 기록하여 LightGCN 및 NGCF와 같은 최신 기술 모델을 능가한다.

ABSTRACT

Recently, Graph Convolutional Network (GCN) has become a novel state-of-art for Collaborative Filtering (CF) based Recommender Systems (RS). It is a common practice to learn informative user and item representations by performing embedding propagation on a user-item bipartite graph, and then provide the users with personalized item suggestions based on the representations. Despite effectiveness, existing algorithms neglect precious interactive features between user-item pairs in the embedding process. When predicting a user's preference for different items, they still aggregate the user tree in the same way, without emphasizing target-related information in the user neighborhood. Such a uniform aggregation scheme easily leads to suboptimal user and item representations, limiting the model expressiveness to some extent. In this work, we address this problem by building bilateral interactive guidance between each user-item pair and proposing a new model named IA-GCN (short for InterActive GCN). Specifically, when learning the user representation from its neighborhood, we assign higher attention weights to those neighbors similar to the target item. Correspondingly, when learning the item representation, we pay more attention to those neighbors resembling the target user. This leads to interactive and interpretable features, effectively distilling target-specific information through each graph convolutional operation. Our model is built on top of LightGCN, a state-of-the-art GCN model for CF, and can be combined with various GCN-based CF architectures in an end-to-end fashion. Extensive experiments on three benchmark datasets demonstrate the effectiveness and robustness of IA-GCN.

연구 동기 및 목표

• GCN 기반 공동 필터링에서 후기 융합의 한계를 해결하기 위해, 사용자 및 아이템 표현이 목표에 특화된 상호작용을 고려하지 않고 독립적으로 집계되는 문제를 해결한다.
• 그래프 컬러션 동안 사용자 및 아이템 트리 간의 상호작용 가이던스를 통합하여, 목표 아이템 또는 사용자와 관련성이 높은 이웃에 중점을 두어 표현 학습을 향상시킨다.
• 사용자-아이템 상호작용 특징의 조기 융합을 통해 모델의 표현력, 일반화 능력 및 학습 수렴성을 향상시킨다.
• LightGCN와 같은 기존 GCN 기반 추천 프레임워크와 호환되는 플러그인 모듈을 설계하여 광범위한 적용 가능성을 확보한다.

제안 방법

• 사용자 트리 집계를 아이템 전용 유사도로, 아이템 트리 집계를 사용자 전용 유사도로 이끄는 双방향 상호작용 어텐션 메커니즘을 도입한다.
• 학습 가능한 어텐션 가중치를 적용하여 목표 아이템과 유사한 사용자 이웃을 우선순위에 두며, 반대로 아이템의 경우도 동일한 원칙을 적용한다.
• 목표 인식 어텐션을 통합함으로써 GCN의 메시지 전파 프로세스를 수정하여 균일한 이웃 집계를 동적이고 맥락에 민감한 가중치로 대체한다.
• 학습 가능한 계수를 가진 다층 임베딩의 가중합을 사용하여 고차원 특징을 더 잘 포착함으로써 표현 품질을 향상시킨다.
• 기본 모델로 LightGCN를 활용하여 엔드 투 엔드 학습이 가능하고, 다른 GCN 기반 추천 아키텍처와의 원활한 통합을 가능하게 한다.
• 사용자 및 아이템 트리가 함께 업데이트되는 이중 트리 아키텍처를 구축하며, 각 트리의 집계 과정이 상대방의 대상 노드에 의해 이끌린다.

실험 결과

연구 질문

• RQ1 사용자 및 아이템 트리 간의 상호작용 가이던스는 GCN 기반 공동 필터링에서 표현 학습에 어떤 영향을 미치는가?
• RQ2 목표에 특화된 어텐션 메커니즘은 메시지 전파 중 관련 이웃에 집중함으로써 추천 성능을 향상시킬 수 있는가?
• RQ3 사용자 및 아이템 특징의 조기 융합이 상호작용 어텐션을 통해 데이터 희소성 문제를 완화하고 모델 일반화 능력을 향상시키는가?
• RQ4 층수 조합 방식(평균 대비 가중치)의 선택이 모델 성능 및 특징 정제에 어떤 영향을 미치는가?
• RQ5 자기 어텐션 또는 유사도 기반 방법과 비교했을 때, 상호작용 어텐션은 학습 수렴 속도 향상과 모델 표현력 향상에 얼마나 기여하는가?

주요 결과

• IA-GCN는 Amazon Book 데이터셋에서 Recall@20에서 최대 15%의 상대적 향상률을 기록하여 최신 기술 모델을 뛰어넘는 뚜렷한 성능 향상을 보였다.
• 가중치 기반 층 조합 전략은 모든 데이터셋에서 일관되게 성능 향상을 이끌었으며, 2층에서 평균 집계에서 가중치 집계로 전환했을 때 Amazon Book에서 Recall@20가 0.0027 증가하였다.
• IA-GCN는 모든 데이터셋과 모델 깊이에서 LightGCN, NGCF, SG-GCN를 능가하며, 강건성과 일반화 능력을 입증하였다.
• 상호작용 어텐션의 도입은 학습 동적 및 추상화 연구를 통해 더 빠른 수렴과 향상된 모델 표현력을 입증하였다.
• 외부 가이던스 없이 자기 어텐션 또는 유사도 기반 메커니즘(예: NGCF)을 사용할 경우 깊이가 증가함에 따라 성능 저하가 발생함을 확인하여 노이즈 누적 현상이 확인되었다.
• 모델의 효과는 특히 데이터 희소성 문제를 다룰 때 두드러지게 나타났으며, Amazon Book와 같이 희소한 데이터셋에서 더 큰 성능 향상이 관찰되었다.