Skip to main content
QUICK REVIEW

[論文レビュー] Metapath- and Entity-aware Graph Neural Network for Recommendation

Muhammad Umer Anwaar, Zhiwei Han|arXiv (Cornell University)|Oct 22, 2020
Recommender Systems and Techniques参考文献 50被引用数 5
ひとこと要約

本稿では、メタパスに依存する部分グラフとそれらのアテンションによる融合を通じて、メタパスに依存する部分グラフを用いて多ホップの順序的意味を明示的にモデル化することで、推薦性能を向上させるメタパスおよびエンティティに注意を払うグラフニューラルネットワーク(PEAGNN)を提案する。本手法は、一階の局所構造を活用する対照的エンティティに注意を払う正則化項とBPR損失を同時に最適化することで、ベンチマークデータセットで最先端の性能を達成する。

ABSTRACT

In graph neural networks (GNNs), message passing iteratively aggregates nodes' information from their direct neighbors while neglecting the sequential nature of multi-hop node connections. Such sequential node connections e.g., metapaths, capture critical insights for downstream tasks. Concretely, in recommender systems (RSs), disregarding these insights leads to inadequate distillation of collaborative signals. In this paper, we employ collaborative subgraphs (CSGs) and metapaths to form metapath-aware subgraphs, which explicitly capture sequential semantics in graph structures. We propose meta extbf{P}ath and extbf{E}ntity- extbf{A}ware extbf{G}raph extbf{N}eural extbf{N}etwork (PEAGNN), which trains multilayer GNNs to perform metapath-aware information aggregation on such subgraphs. This aggregated information from different metapaths is then fused using attention mechanism. Finally, PEAGNN gives us the representations for node and subgraph, which can be used to train MLP for predicting score for target user-item pairs. To leverage the local structure of CSGs, we present entity-awareness that acts as a contrastive regularizer on node embedding. Moreover, PEAGNN can be combined with prominent layers such as GAT, GCN and GraphSage. Our empirical evaluation shows that our proposed technique outperforms competitive baselines on several datasets for recommendation tasks. Further analysis demonstrates that PEAGNN also learns meaningful metapath combinations from a given set of metapaths.

研究の動機と目的

  • 既存のGNNがユーザ-アイテムインタラクショングラフにおける順序的多ホップ関係を捉える能力に限界を示していることに対処すること。
  • 高次元のユーザ-アイテムインタラクションパターンをエンコードするメタパスに注意を払う部分グラフを明示的にモデル化することで、協調フィルタリングを改善すること。
  • 対照的正則化(エンティティに注意を払う)を用いて一階の構造的接続性を組み込むことで、ノード表現を向上させること。
  • 完全なグラフ再構築なしに、オンザフライでメタパスに従う伝搬を用いることで、効率的かつスケーラブルなメッセージパッシングを可能にすること。
  • アテンションメカニズムを用いてメタパスの重要度と融合をエンドツーエンドで学習可能にすることで、解釈可能で適応可能な推薦を実現すること。

提案手法

  • ノイズを低減するために、ユーザ-アイテムペアを中心とするhホップの囲繞協調部分グラフ(CSG)を構築する。
  • 事前に定義されたメタパススキーマに基づき、各CSGをγ個のメタパスに注意を払う部分グラフに分解し、順序的意味を分離する。
  • 各部分グラフ上で、GCN、GAT、GraphSAGEなどのマルチレイヤーGNNを用いて、メタパスに注意を払うメッセージパッシングを実行し、多ホップ情報の集約を行う。
  • 異なるメタパスに注意を払う部分グラフからの表現をアテンションメカニズムを用いて融合し、動的で重要度の重みを学習する。
  • エンティティに注意を払う正則化項として、ユーザ/アイテムノードを接続された特徴エンティティに近づけ、非接続のものとは遠ざける対照的正則化を導入する。
  • 推薦精度と構造的一致性の両方を最適化するため、BPR損失とエンティティに注意を払う損失を組み合わせて、エンドツーエンドでモデルを学習する。

実験結果

リサーチクエスチョン

  • RQ1標準的なGNNと比較して、メタパスに注意を払う部分グラフを明示的にモデル化することで、推薦性能がどのように向上するか?
  • RQ2エンティティに注意を払うことは、特にスパースな設定において、ノード表現の質と推薦精度にどのような影響を与えるか?
  • RQ3どのメタパスがモデル性能に最も寄与しているか、またPEAGNNは意味のあるメタパスの組み合わせを自動で学習できるか?
  • RQ4PEAGNNのオンザフライでメタパスに従うメッセージパッシングは、明示的なメタパス再構築と比較して、効率性と性能の面でどう異なるか?
  • RQ5PEAGNNのアテンションメカニズムは、より良い推薦を実現するために、重要なメタパスの組み合わせを特定し、優先順位をつけることができるか?

主な発見

  • PEAGNNは複数のデータセットで一貫した性能向上を達成し、ML-smallデータセットではエンティティに注意を払うことでHR@10で最低1.9%の向上を示した。
  • Yelpデータセットでは、エンティティに注意を払うことでPEASageがNDCG@10で4.06%向上し、密な実世界のグラフにおいても有効であることが示された。
  • メタパスY-M-U(Year-Movie-User)は最も顕著な影響を示し、削除するとHR@10が一貫して10%以上低下した。これは、ユーザの好みのモデリングにおいて中心的な役割を果たしていることを示している。
  • U-M-U(User-Movie-User)やM-U-M(Movie-User-Movie)のようなメタパスは、ユーザ行動における協調的要因を強調しており、重要な貢献をしている。
  • タグ関連のメタパス(例:T-M-U)を削除すると、1回の実行で性能が15.32%低下した。これは、ユーザ-アイテムインタラクションモデリングにおいて補完的な役割を果たしていることを示唆している。
  • PEAGNNのアテンションメカニズムは、意味のあるメタパスの組み合わせに高い重みを割り当てることを学習し、解釈可能で段階的なモデルの最適化を可能にしている。

より良い研究を、今すぐ始めましょう

論文の読解から最終レビューまで、研究時間を劇的に削減しましょう。

クレジットカード登録不要

このレビューはAIが作成し、人間の編集者が確認しました。