[論文レビュー] Discovering Collaborative Signals for Next POI Recommendation with Iterative Seq2Graph Augmentation

Yang Li, Tong Chen+3 more|arXiv (Cornell University)|Jun 30, 2021

Recommender Systems and Techniques参考文献 22被引用数 8

ひとこと要約

本稿では、逐次POI表現を反復的Seq2Graph拡張によって向上させることで、クロスシーケンスPOI遷移からの協調信号とカテゴリに敏感なマルチタスク学習を統合する、新しい次回POI推薦モデルSGRecを提案する。SGRecは、Gowallaのようなスパースデータセットにおいても最先端の性能を達成し、ST-CLSTMよりもnDCG@5で7.36%向上し、トップコンペティター平均で35%の向上を示した。

ABSTRACT

Being an indispensable component in location-based social networks, next point-of-interest (POI) recommendation recommends users unexplored POIs based on their recent visiting histories. However, existing work mainly models check-in data as isolated POI sequences, neglecting the crucial collaborative signals from cross-sequence check-in information. Furthermore, the sparse POI-POI transitions restrict the ability of a model to learn effective sequential patterns for recommendation. In this paper, we propose Sequence-to-Graph (Seq2Graph) augmentation for each POI sequence, allowing collaborative signals to be propagated from correlated POIs belonging to other sequences. We then devise a novel Sequence-to-Graph POI Recommender (SGRec), which jointly learns POI embeddings and infers a user's temporal preferences from the graph-augmented POI sequence. To overcome the sparsity of POI-level interactions, we further infuse category-awareness into SGRec with a multi-task learning scheme that captures the denser category-wise transitions. As such, SGRec makes full use of the collaborative signals for learning expressive POI representations, and also comprehensively uncovers multi-level sequential patterns for user preference modelling. Extensive experiments on two real-world datasets demonstrate the superiority of SGRec against state-of-the-art methods in next POI recommendation.

研究の動機と目的

• 独立したチェックインシーケンス間の協調信号を無視する既存の逐次POI推薦手法の限界を是正すること。
• より密度の高いカテゴリごとの遷移パターンを活用することで、POIレベルのデータスパarsityを軽減すること。
• より表現力のあるPOIおよびユーザープレファレンス表現を、逐次的ダイナミクスと協調信号を同時にモデル化することで実現すること。
• 時間的順序を保持しつつ、クロスシーケンスの文脈でPOI埋め込みを豊かにするグラフ拡張型逐次モデルの構築。

提案手法

• 個々のPOIシーケンスを、他のシーケンスからの意味的に関連する近隣POIにリンクさせることで、グラフ構造のシーケンスに変換する反復的Seq2Graph拡張を提案する。
• 隣接POIからの協調信号を、複数のシーケンスに跨って集約するカテゴリに敏感なグラフ注意ネットワーク（CA-GAT）を導入し、POI表現学習を強化する。
• 拡張されたシーケンス順序からユーザーテンポラルプレファレンスをモデル化するためのポジションに敏感なアテンションメカニズムを採用する。
• POIレベルのデータスパarsityを軽減するために、次回POIカテゴリの予測を同時に学習するマルチタスク学習目的関数を組み込む。
• 複数ラウンドにわたるグラフ伝搬とアテンション集約を通じて、POI表現を反復的に更新する。
• 大規模環境における計算コストと情報保持のバランスを図るため、レートγを用いたネイバーサンプリングを採用する。

実験結果

リサーチクエスチョン

• RQ1 クロスシーケンスPOI遷移からの協調信号は、次回POI推薦性能を向上させ得るか？
• RQ2 カテゴリに敏感な学習を統合することで、POIレベルのデータスパarsity下でもモデルのロバスト性は向上するか？
• RQ3 グラフベースの文脈で豊かにされた状態でも、順序を保持することでユーザープレファレンスモデリングはどの程度向上するか？
• RQ4 埋め込み次元、ネイバーサンプリングレート、損失重み付けといったハイパーパrameterが、モデルの一般化性能にどのように影響するか？

主な発見

• Gowallaデータセットにおいて、SGRecはST-CLSTMよりもHR@5で4.15%、nDCG@5で7.36%の相対的向上を達成し、スパースデータにおいて優れた性能を示した。
• Gowallaでは、最良のベースラインよりも平均35%の向上を達成し、相互作用密度が低い環境下でも効果的であることを示した。
• アブレーションスタディの結果、Seq2Graph拡張やカテゴリに敏感な学習を除去すると顕著な性能低下が生じ、これらが中心的役割を果たしていることを裏付けた。
• ポジションに敏感なアテンションメカニズムとカテゴリ予測目的関数の両方が、アブレーション結果から明確に性能向上に寄与していることが示された。
• ハイパーパrameter分析から、最適な性能はD=120、γ=10%、η=0.4、および2〜3層のCA-GATで達成され、パラメータ選定に対して高いロバストネスを示した。