[논문 리뷰] Graph Collaborative Signals Denoising and Augmentation for Recommendation

Ziwei Fan, Ke Xu외 4명|arXiv (Cornell University)|2023. 04. 06.

Recommender Systems and Techniques인용 수 5

한 줄 요약

이 논문은 그래프 인접행렬을 향상시키는 새로운 프레임워크인 GraphDA를 제안한다. 이는 사전 훈련과 상위-K 근접 이웃 샘플링을 통해 사용자-아이템 상호작용을 노이즈 제거하고 사용자-사용자 및 아이템-아이템 상관관계를 통합한다. 이웃 품질을 향상시키고 노이즈를 줄임으로써 GraphDA는 다양한 벤치마크 데이터셋에서 활성 및 비활성 사용자 모두의 성능을 크게 향상시킨다.

ABSTRACT

Graph collaborative filtering (GCF) is a popular technique for capturing high-order collaborative signals in recommendation systems. However, GCF's bipartite adjacency matrix, which defines the neighbors being aggregated based on user-item interactions, can be noisy for users/items with abundant interactions and insufficient for users/items with scarce interactions. Additionally, the adjacency matrix ignores user-user and item-item correlations, which can limit the scope of beneficial neighbors being aggregated. In this work, we propose a new graph adjacency matrix that incorporates user-user and item-item correlations, as well as a properly designed user-item interaction matrix that balances the number of interactions across all users. To achieve this, we pre-train a graph-based recommendation method to obtain users/items embeddings, and then enhance the user-item interaction matrix via top-K sampling. We also augment the symmetric user-user and item-item correlation components to the adjacency matrix. Our experiments demonstrate that the enhanced user-item interaction matrix with improved neighbors and lower density leads to significant benefits in graph-based recommendation. Moreover, we show that the inclusion of user-user and item-item correlations can improve recommendations for users with both abundant and insufficient interactions. The code is in \url{https://github.com/zfan20/GraphDA}.

연구 동기 및 목표

• 이분 그래프 협업 필터링 기법이 이분 인접행렬 내에서 노이즈가 많고 흐린 사용자-아이템 상호작용으로 인해 약점이 있음을 해결하기 위해.
• 사용자-사용자 및 아이템-아이템 상관관계를 통합함으로써 상호작용이 많거나 적은 사용자 모두의 추천 성능을 향상시키기 위해.
• 외부 특징 또는 디스틸레이션 기법에 의존하지 않고도 더 강력하고 정보가 풍부한 인접행렬을 생성하는 사전 훈련 및 향상 파이프라인을 개발하기 위해.
• 노이즈 제거 및 증강을 통해 개선된 이웃 선택이 다양한 데이터셋에서 추천 품질에 일관된 성과 향상을 이끌어내는지 입증하기 위해.

제안 방법

• 원시 사용자-아이템 상호작용에서 고품질의 사용자 및 아이템 임베딩을 확보하기 위해 그래프 기반 추천 모델을 사전 훈련한다.
• 사전 훈련된 임베딩을 기반으로 상위-K 샘플링을 적용하여 품질 향상된 이웃을 가진 노이즈 제거 및 증강된 사용자-아이템 상호작용 행렬을 구성한다.
• 사전 훈련된 임베딩을 바탕으로 대칭적인 사용자-사용자 및 아이템-아이템 상관관계 행렬을 구축하여 고차원 협업 신호를 포착한다.
• 향상된 사용자-아이템 행렬과 사용자-사용자, 아이템-아이템 상관관계 구성 요소를 통합하여 그래프 컨볼루션 네트워크용 통합 인접행렬을 구성한다.
• 정련된 인접행렬을 LightGCN 스타일 프레임워크에 적용하여 메시지 전파 및 표현 학습을 향상시킨다.
• 이격도 및 상관관계 강도를 제어하는 하이퍼파rameter를 포함하여 최종 모델을 종합적으로 최적화한다.

실험 결과

연구 질문

• RQ1 이분 인접행렬의 품질이 상호작용 수가 다양한 사용자에게 추천 성능에 어떤 영향을 미치는가?
• RQ2 사용자-사용자 및 아이템-아이템 상관관계를 통합하면 활성 및 비활성 사용자 모두의 추천 성능을 향상시킬 수 있는가?
• RQ3 사전 훈련된 임베딩에서 상위-K 샘플링을 통해 사용자-아이템 상호작용을 노이즈 제거하면 기존 그래프 기반 방법보다 성능이 향상되는가?
• RQ4 향상된 인접행렬에서 상호작용 밀도와 이웃 품질 사이의 최적 균형은 무엇인가?
• RQ5 사용자-사용자 및 아이템-아이템 상관관계 구성 요소는 그래프 기반 추천에서 표현 학습에 어떤 기여를 하는가?

주요 결과

• GraphDA는 3건 이하의 상호작용을 가진 비활성 사용자에게서 기존 최고의 베이스라인 대비 3.7%에서 19.6%까지 뚜렷한 성능 향상을 기록한다.
• 7건 이상의 상호작용을 가진 고도로 활성화된 사용자에 대해서는 LightGCN 대비 5.1%에서 67.8%까지 성능 향상을 기록하며, Tools와 같은 노이즈가 많은 데이터셋에서 특히 두드러진다.
• 사용자-사용자 및 아이템-아이템 상관관계의 통합은 일관되게 추천 품질을 향상시키며, 작은 이웃 수(예: $UU_k, II_k \leq 10$)를 초과하면 여전히 미미한 성과 향상이 관찰된다.
• 사용자 측 이웃($U_k = 0$)을 제거하면 성능 저하가 심각하게 발생함으로써 사용자 수준의 협업 신호의 중요성을 입증한다.
• 향상된 인접행렬은 성능을 유지하거나 향상시키면서도 밀도를 낮추어 효과적인 노이즈 제거 및 이웃 품질 향상의 가능성을 시사한다.
• GraphDA는 모든 데이터셋에서 LightGCN, GTN, UltraGCN 등의 강력한 베이스라인을 능가하며, 노이즈 제거 및 증강 파이프라인의 효과성을 입증한다.