[논문 리뷰] Discovering Collaborative Signals for Next POI Recommendation with Iterative Seq2Graph Augmentation

Yang Li, Tong Chen외 3명|arXiv (Cornell University)|2021. 06. 30.

Recommender Systems and Techniques참고 문헌 22인용 수 8

한 줄 요약

이 논문은 반복적 Seq2Graph 증강을 통해 순차적 POI 표현을 향상시키고, 교차 시퀀스 POI 전이로부터 협업 신호를 통합하며, 카테고리 인지 다중 작업 학습을 통합하는 새로운 다음 POI 추천 모델인 SGRec을 제안한다. SGRec은 Gowalla와 같은 희소 데이터셋에서도 최신 기술 수준의 성능을 달성하며, ST-CLSTM 대비 nDCG@5에서 7.36% 향상되고 최고의 경쟁자 대비 평균 35% 향상된다.

ABSTRACT

Being an indispensable component in location-based social networks, next point-of-interest (POI) recommendation recommends users unexplored POIs based on their recent visiting histories. However, existing work mainly models check-in data as isolated POI sequences, neglecting the crucial collaborative signals from cross-sequence check-in information. Furthermore, the sparse POI-POI transitions restrict the ability of a model to learn effective sequential patterns for recommendation. In this paper, we propose Sequence-to-Graph (Seq2Graph) augmentation for each POI sequence, allowing collaborative signals to be propagated from correlated POIs belonging to other sequences. We then devise a novel Sequence-to-Graph POI Recommender (SGRec), which jointly learns POI embeddings and infers a user's temporal preferences from the graph-augmented POI sequence. To overcome the sparsity of POI-level interactions, we further infuse category-awareness into SGRec with a multi-task learning scheme that captures the denser category-wise transitions. As such, SGRec makes full use of the collaborative signals for learning expressive POI representations, and also comprehensively uncovers multi-level sequential patterns for user preference modelling. Extensive experiments on two real-world datasets demonstrate the superiority of SGRec against state-of-the-art methods in next POI recommendation.

연구 동기 및 목표

• 기존 순차적 POI 추천 기법이 독립된 체크인 시퀀스 간의 협업 신호를 忽시하는 한계를 해결하기 위해.
• 더 밀도 높은 카테고리별 전이 패턴을 활용하여 POI 수준의 데이터 희소성 문제를 완화하기 위해.
• 더 표현력 있는 POI 및 사용자 선호도 표현을 위해 순차적 동적 특성과 협업 신호를 동시에 모델링하기 위해.
• 시간적 순서를 유지하면서도 교차 시퀀스 컨텍스트를 통해 POI 임베딩을 풍부화하는 그래프 증강 순차 모델을 개발하기 위해.

제안 방법

• 다른 시퀀스의 의미적으로 관련된 이웃 POI들과 연결하여 각 POI를 연결함으로써 개별 POI 시퀀스를 그래프 구조 시퀀스로 변환하는 반복적 Seq2Graph 증강 기법을 제안한다.
• 다양한 시퀀스 간 이웃 POI들로부터 협업 신호를 집계하기 위해 카테고리 인지 그래프 어텐션 네트워크(CA-GAT)를 도입하여 POI 표현 학습을 향상시킨다.
• 증강된 시퀀스 순서로부터 사용자 시간적 선호도를 모델링하기 위해 위치 인지 어テン션 메커니즘을 활용한다.
• POI 수준의 데이터 희소성을 완화하기 위해 다음 POI 카테고리를 동시에 예측하는 다중 작업 학습 목표를 통합한다.
• 다중 라운드의 그래프 전파 및 어텐션 집계를 통해 반복적인 임베딩 업데이트를 수행하여 POI 표현을 정교화한다.
• 대규모 환경에서 계산 비용과 정보 유지 간 균형을 맞추기 위해 비율 γ를 활용한 이웃 샘플링을 적용한다.

실험 결과

연구 질문

• RQ1 교차 시퀀스 POI 전이로부터 유도된 협업 신호는 다음 POI 추천 성능 향상에 기여하는가?
• RQ2 카테고리 인지 학습을 통합할 경우 POI 수준의 데이터 희소성 상황에서 모델의 강건성은 어떻게 향상되는가?
• RQ3 그래프 기반 컨텍스트로 풍부화하면서도 순차적 순서를 유지할 경우 사용자 선호도 모델링은 어느 정도 향상되는가?
• RQ4 임베딩 차원, 이웃 샘플링 비율, 손실 가중치와 같은 하이퍼파라미터는 모델 일반화에 어떤 영향을 미치는가?

주요 결과

• Gowalla 데이터셋에서 SGRec는 ST-CLSTM 대비 HR@5에서 4.15%, nDCG@5에서 7.36% 상대적 향상률을 기록하여 희소 데이터에서 뛰어난 성능을 입증한다.
• Gowalla에서 SGRec는 최고의 베이스라인 대비 평균 35% 향상률을 기록하여 낮은 밀도의 상호작용 환경에서의 효과성을 입증한다.
• 제거 실험 결과, Seq2Graph 증강 또는 카테고리 인지 학습을 제거할 경우 성능 저하가 심각하게 발생하여 이들의 핵심적 역할을 확인한다.
• 위치 인지 어텐션 메커니즘과 카테고리 예측 목표 함수 각각이 성능 향상에 기여하며, 제거 실험 결과로 이를 확인할 수 있다.
• 하이퍼파ram터 분석 결과, 최적의 성능는 D=120, γ=10%, η=0.4 및 2–3개의 CA-GAT 레이어에서 달성되며, 이는 파rameter 선택에 대한 강건성을 시사한다.