[논문 리뷰] A Diffusion model for POI recommendation

Yifang Qin, Hongjun Wu외 3명|arXiv (Cornell University)|2023. 04. 14.

Human Mobility and Location-Based Analysis인용 수 4

한 줄 요약

이 논문은 사용자의 시공간적 선호도를 특화된 그래프 인코딩 모듈과 확산 기반 샘플링 전략을 통해 포인트오브인테레스트(POI) 추천을 위한 새로운 그래프 기반 확산 모델인 Diff-POI를 제안한다. 역확산을 통해 사용자 선호도 표현을 반복적으로 개선함으로써, 익숙한 지역뿐 아니라 새로운 지역의 POI도 효과적으로 추천하며, 네 개의 실세계 데이터셋에서 최신 기술을 초월한다.

ABSTRACT

Next Point-of-Interest (POI) recommendation is a critical task in location-based services that aim to provide personalized suggestions for the user's next destination. Previous works on POI recommendation have laid focused on modeling the user's spatial preference. However, existing works that leverage spatial information are only based on the aggregation of users' previous visited positions, which discourages the model from recommending POIs in novel areas. This trait of position-based methods will harm the model's performance in many situations. Additionally, incorporating sequential information into the user's spatial preference remains a challenge. In this paper, we propose Diff-POI: a Diffusion-based model that samples the user's spatial preference for the next POI recommendation. Inspired by the wide application of diffusion algorithm in sampling from distributions, Diff-POI encodes the user's visiting sequence and spatial character with two tailor-designed graph encoding modules, followed by a diffusion-based sampling strategy to explore the user's spatial visiting trends. We leverage the diffusion process and its reversed form to sample from the posterior distribution and optimized the corresponding score function. We design a joint training and inference framework to optimize and evaluate the proposed Diff-POI. Extensive experiments on four real-world POI recommendation datasets demonstrate the superiority of our Diff-POI over state-of-the-art baseline methods. Further ablation and parameter studies on Diff-POI reveal the functionality and effectiveness of the proposed diffusion-based sampling strategy for addressing the limitations of existing methods.

연구 동기 및 목표

• 기존의 POI 추천 모델이 집계된 역사적 방문 기록에 의존함으로써, 새로운 또는 낯선 지역에서의 추천에 한계를 가짐을 해결하기 위해.
• 그래프 신경망을 활용해 시공간 경로를 공동으로 인코딩하여 사용자의 공간적 및 순차적 선호도를 보다 효과적으로 모델링하기 위해.
• 반복적으로 사용자 잠재적 위치 선호도를 정밀화하는 확산 기반 샘플링 메커니즘을 도입하여 더 정확하고 다양한 다음 POI 예측을 가능하게 하기 위해.
• 일반적인 경로나 반복되는 장소에 얽매이지 않는 탐색형 사용자에게도 효과적인 추천을 가능하게 하기 위해.
• 간단한 풀링 또는 어텐션 메커니즘을 초월해 암묵적인 공간 선호도를 효과적으로 포착할 수 있는 확산 기반 샘플링 전략의 효과를 검증하기 위해.

제안 방법

• Diff-POI는 사용자의 시공간적 경로를 공간적 및 순차적 종속성을 갖는 POI의 시퀀스로 모델링하기 위해 맞춤형 설계된 그래프 인코딩 모듈을 활용한다.
• POI 간 전이 그래프를 구축하고, 그래프 신경망을 사용해 순차적 방문 패턴과 장소 간 공간적 근접성을 모두 인코딩한다.
• 사용자 위치 선호도 표현을 점차 노이즈를 더해가는 전방 확산 과정을 적용하여 시간에 따른 마르코프 체인으로 모델링한다.
• 표본 추출을 위해 역확산 과정을 학습하여 표현을 단계적으로 노이즈 제거함으로써, 후행 분포에서 타당한 다음 POI를 샘플링할 수 있도록 한다.
• 역확산 과정의 스코어 함수는 공동 학습을 통해 엔드 투 엔드로 최적화되어, 반복적 개선을 통해 고품질 추천을 생성할 수 있도록 한다.
• 확산 과정 최적화와 추론 시 효과적인 샘플링을 가능하게 하기 위해 공동 학습 및 추론 프레임워크를 설계한다.

실험 결과

연구 질문

• RQ1 확산 기반 샘플링 전략이 다음 POI 추천을 위한 사용자 잠재적 공간 선호도를 효과적으로 모델링하고 정밀화할 수 있는가?
• RQ2 제안된 모델은 집계 기반 방법과 비교해 낯선 또는 새로운 지리적 지역의 POI 추천에서 어떻게 성능을 발휘하는가?
• RQ3 그래프 인코딩을 통한 순차적 및 공간 정보 통합이 추천 정확도와 다양성 향상에 어느 정도 기여하는가?
• RQ4 확산 모델의 반복적 샘플링 과정이 특히 탐색형 사용자에게서 관련 POI를 더 잘 발견하는 데 기여하는가?
• RQ5 모델의 구성 요소인 그래프 인코딩과 확산 샘플링이 최종 추천 성능에 개별적으로 및 상호작용적으로 기여하는 정도는 어떠한가?

주요 결과

• Diff-POI는 네 개의 실세계 POI 추천 데이터셋에서 최신 기술을 초월하는 성능을 달성하며, 정확도와 커버리지 모두에서 슈퍼리어하다.
• 기존의 집계 기반 모델이 실패하는 곳, 예를 들어 관광 명소나 낯선 지역의 주변 지역 등에서도 성공적으로 POI를 추천한다.
• 사례 연구 결과, 확산 샘플링 과정이 진행될수록(0%에서 100%로) 상위 5개 추천 POI가 목표 POI에 점점 더 가까워지는 지리적 거리가 감소함을 확인할 수 있었으며, 이는 효과적인 정밀화를 의미한다.
• 정기적인 루틴(예: 집과 직장 간 출퇴근)을 가진 사용자에게서도 샘플링 과정의 초반에 정확한 다음 POI를 식별함으로써 강력한 선호도 모델링 능력을 입증한다.
• 절단 실험 결과, 어텐션 기반 또는 풀링 기반 집계 방법에 비해 확산 기반 샘플링 전략이 성능 향상에 뚜렷한 기여를 한다는 것을 확인하였다.
• 목표 POI가 최종 샘플링 단계에서 성공적으로 회수되는 것으로 나타나, 새로운 지역을 탐색하는 사용자에게도 높은 추천 품질을 유지함을 보였다.