[論文レビュー] A Diffusion model for POI recommendation

Yifang Qin, Hongjun Wu+3 more|arXiv (Cornell University)|Apr 14, 2023

Human Mobility and Location-Based Analysis被引用数 4

ひとこと要約

本稿では、ユーザーの空間的・時間的嗜好を、特化したグラフ符号化モジュールと拡散ベースのサンプリング戦略を用いて捉える、新しいグラフベースの拡散モデルであるDiff-POIを提案する。逆拡散を繰り返し適用することで、ユーザーの嗜好表現を段階的に精錬する。このモデルは、馴染みのある場所だけでなく、新しい場所のPOI（ポイント・オブ・インタレスト）の推薦においても、最先端の手法を上回る性能を発揮し、4つの実世界データセットで実証された。

ABSTRACT

Next Point-of-Interest (POI) recommendation is a critical task in location-based services that aim to provide personalized suggestions for the user's next destination. Previous works on POI recommendation have laid focused on modeling the user's spatial preference. However, existing works that leverage spatial information are only based on the aggregation of users' previous visited positions, which discourages the model from recommending POIs in novel areas. This trait of position-based methods will harm the model's performance in many situations. Additionally, incorporating sequential information into the user's spatial preference remains a challenge. In this paper, we propose Diff-POI: a Diffusion-based model that samples the user's spatial preference for the next POI recommendation. Inspired by the wide application of diffusion algorithm in sampling from distributions, Diff-POI encodes the user's visiting sequence and spatial character with two tailor-designed graph encoding modules, followed by a diffusion-based sampling strategy to explore the user's spatial visiting trends. We leverage the diffusion process and its reversed form to sample from the posterior distribution and optimized the corresponding score function. We design a joint training and inference framework to optimize and evaluate the proposed Diff-POI. Extensive experiments on four real-world POI recommendation datasets demonstrate the superiority of our Diff-POI over state-of-the-art baseline methods. Further ablation and parameter studies on Diff-POI reveal the functionality and effectiveness of the proposed diffusion-based sampling strategy for addressing the limitations of existing methods.

研究の動機と目的

• 既存のPOI推薦モデルが、集約された履歴訪問表現に依存しているという限界に対処すること。このため、馴染みのない場所や新しい地域での推薦が困難になる。
• グラフニューラルネットワークを用いて、空間的・順序的軌跡を統合的に符号化することで、ユーザーの空間的および順序的嗜好をより効果的にモデル化すること。
• 反復的にユーザーの潜在的場所嗜好を精錬する、拡散ベースのサンプリング機構を導入し、より正確で多様な次POI予測を実現すること。
• 熟練ルートや繰り返し訪問する場所に縛られない、探検志向のユーザーに対しても効果的な推薦を可能にすること。
• 単なるプーリングやアテンションメカニズムを超えて、暗黙の空間的嗜好を捉える、拡散ベースのサンプリング戦略の有効性を検証すること。

提案手法

• Diff-POIは、ユーザーの空間的・時間的軌跡を、空間的および順序的依存関係を持つPOIの系列としてモデル化する、カスタム設計のグラフ符号化モジュールを採用する。
• POI間の遷移グラフを構築し、グラフニューラルネットワークを用いて、訪問順序パターンと場所の空間的近接性の両方を符号化する。
• ユーザーの場所嗜好表現を段階的にノイズを加えることで、時間的マーカフ連鎖としてモデル化する、前向きな拡散プロセスを適用する。
• 逆拡散プロセスを学習し、段階的にノイズを除去することで、事後分布から妥当な次POIをサンプリング可能にする。
• 逆プロセスのスコア関数を、共同学習によりエンドツーエンドで最適化することで、反復的精錬を経て高品質な推薦を生成する。
• 拡散プロセスの最適化と推論時の効果的サンプリングを可能にする、共同学習および推論フレームワークを設計する。

実験結果

リサーチクエスチョン

• RQ1 拡散ベースのサンプリング戦略は、次POI推薦のためのユーザーの潜在的空間的嗜好を効果的にモデル化・精錬できるか？
• RQ2 本手法は、集約ベースの手法と比較して、馴染みのない地理的地域におけるPOI推薦において、どの程度優れた性能を示すか？
• RQ3 グラフ符号化による順序的および空間的情報の統合は、推薦の正確性と多様性をどの程度向上させるか？
• RQ4 拡散モデルにおける反復的サンプリングプロセスは、特に探検志向のユーザーにとって、関連するPOIの発見をどの程度改善するか？
• RQ5 モデルの構成要素（グラフ符号化と拡散サンプリング）は、最終的な推薦性能にどのように個別にかつ共同で寄与しているか？

主な発見

• Diff-POIは、4つの実世界POI推薦データセットにおいて最先端の性能を達成し、既存のSOTA手法を精度とカバレッジの両面で上回った。
• 本手法は、観光スポットや馴染みのない地域のような、新しい場所のPOIの推薦にも成功した。これは、従来の集約ベースのモデルが失敗する分野である。
• 事例研究では、拡散サンプリングプロセスが進行する（0%から100%に至る）に従い、上位5件の推薦POIが地理的距離でターゲットPOIに次第に近づくことが示された。これは、精錬が効果的に行われていることを裏付けている。
• 定期的な行動パターン（例：自宅と職場を往復）を持つユーザーに対しては、サンプリングプロセスの初期段階で正しい次POIを特定できた。これは、嗜好モデリングの強力さを示している。
• アブレーションスタディの結果、アテンションベースやプーリングベースの集約手法と比較して、拡散ベースのサンプリング戦略が顕著に性能を向上させた。
• 探検志向のユーザーに対しても、最終的なサンプリング段階でターゲットPOIが効果的に回収された。これは、本モデルが新規地域の探索に対しても高い推薦品質を維持できることを示している。