[논문 리뷰] WSFE: Wasserstein Sub-graph Feature Encoder for Effective User Segmentation in Collaborative Filtering

Yankai Chen, Yifei Zhang외 4명|arXiv (Cornell University)|2023. 05. 08.

Recommender Systems and Techniques인용 수 4

한 줄 요약

WSFE는 사용자-아이템 상호작용 그래프에서 고차원 부분그래프 패턴을 인코딩함으로써, 워셔스타인 거리에 기반한 최적화 운반 이론을 활용해 협업 필터링에서 사용자별 유사도를 측정하는 모델에 종속적이지 않고 학습이 필요 없는 표현 인코더이다. 재학습 없이 여섯 개인 최신 모델과 여섯 개인 실세계 데이터셋에서 사용자 세분화 성능을 크게 향상시켰으며, 사용자 클러스터링 작업에서 재현율과 NDCG가 최대 +13.60% 향상됨.

ABSTRACT

Maximizing the user-item engagement based on vectorized embeddings is a standard procedure of recent recommender models. Despite the superior performance for item recommendations, these methods however implicitly deprioritize the modeling of user-wise similarity in the embedding space; consequently, identifying similar users is underperforming, and additional processing schemes are usually required otherwise. To avoid thorough model re-training, we propose WSFE, a model-agnostic and training-free representation encoder, to be flexibly employed on the fly for effective user segmentation. Underpinned by the optimal transport theory, the encoded representations from WSFE present a matched user-wise similarity/distance measurement between the realistic and embedding space. We incorporate WSFE into six state-of-the-art recommender models and conduct extensive experiments on six real-world datasets. The empirical analyses well demonstrate the superiority and generality of WSFE to fuel multiple downstream tasks with diverse underlying targets in recommendation.

연구 동기 및 목표

• 현대 협업 필터링 모델에서 사용자별 유사도 모델링이 명시적으로 부족한 문제를 해결함으로써 효과적인 사용자 세분화를 방해하는 요소를 제거하기 위해.
• 모델 재학습이나 아키텍처 변경 없이도 사용자 유사도 측정을 향상시키는 표현 인코더를 개발하기 위해.
• 다양한 그래프 기반 추천 모델에 대해 즉각적인 배포가 가능한 사용자 세분화를 가능하게 하기 위해.
• 고차원 부분그래프 패턴과 최적화 운반 이론을 활용해 강력하고 분포 인식형 사용자 임베딩 인코딩을 구현하기 위해.
• 다양한 모델과 실세계 데이터셋에서 본 방법의 일반성과 효과성을 검증하기 위해.

제안 방법

• WSFE는 학습된 아이템 상호작용 패턴에서 유도된 고차원 확률 분포로 사용자 선호도를 모델링함.
• 최적화 운반 이론을 활용해 경험적 분포와 임베딩된 특징 분포 간의 워셔스타인 거리를 계산함으로써 사용자 표현을 인코딩함.
• 복잡한 행동 유사도를 포착하기 위해 사용자-아이템 상호작용 그래프에서 고차원 부분그래프 특징을 추출함.
• 정확도와 계산 비용의 균형을 맞추기 위해 누적 워셔스타인 거리를 효율적으로 계산하기 위해 절단 기반 근사(S)를 적용함.
• 차원 축소와 메모리 문제 완화를 위해 레이어별 임베딩을 합산 또는 연결하여 집계함.
• 모든 사전 학습된 그래프 기반 추천 모델과 완전히 호환되어 즉각적인 사용자 세분화를 가능하게 함.

실험 결과

연구 질문

• RQ1 학습이 필요 없고 모델에 종속적이지 않은 방법이 재학습 없이 협업 필터링에서 사용자 세분화 성능을 향상시킬 수 있는가?
• RQ2 WSFE가 부분그래프 패턴 인코딩과 최적화 운반 이론을 통해 사용자별 유사도를 얼마나 효과적으로 포착하는가?
• RQ3 WSFE는 다양한 그래프 기반 추천 모델과 실세계 데이터셋에서 일반화되는가?
• RQ4 절단 수 S가 성능과 계산 효율성에 미치는 영향은 무엇인가?
• RQ5 특징 집계 방식(합산 vs. 연결)이 차원 수와 세분화 정확도에 어떤 영향을 미치는가?

주요 결과

• WSFE는 여섯 개인 실세계 데이터셋과 여섯 개의 최신 모델에서 모두 사용자 세분화 성능을 향상시켰으며, 재현율 향상 폭은 +0.83%에서 +13.60%까지 다양함.
• MovieLens에서 가장 큰 향상이 관찰되었으며, 이는 사용자 평균 상호작용 수가 높아(165.60명) WSFE가 선호도 분포를 더 잘 활용할 수 있었기 때문임.
• 대조 학습 기반 모델들(SGL, SimGCL, NCL 등)이 WSFE에서 가장 큰 이점을 얻었으며, 재현율 향상 폭이 최대 +12.60%에 이르렀는데, 이는 데이터 증강에 기인한 임베딩 다양성 향상 덕분임.
• 절단 수 S를 64로 설정할 경우 성능과 계산 비용 사이의 최적의 균형을 이룸. 더 높은 S 값으로의 증가는 성능 향상에 비해 점점 더 미미한 효과를 보임.
• 합산 집계 방식이 연결 방식과 경쟁 가능한 성능을 기록함으로써 자원 제약 환경에서의 실용적인 대안이 됨.
• WSFE는 재학습 없이도 효과적인 사용자 세분화를 가능하게 하여 다양한 모델 아키텍처에서 높은 일반성과 유연성을 입증함.