[論文レビュー] Contextualized Graph Attention Network for Recommendation with Item Knowledge Graph

Susen Yang, Yong Liu+4 more|arXiv (Cornell University)|Apr 24, 2020

Advanced Graph Neural Networks参考文献 18被引用数 4

ひとこと要約

本稿では、ユーザー固有およびアイテム固有のアテンションメカニズムを用いて、アイテム知識グラフ内の局所的および非局所的グラフコンテキストを明示的にモデル化する、新しい推薦フレームワークであるコンテキスト付きグラフアテンションネットワーク（CGAT）を提案する。CGATはバイアス付きランダムウォークサンプリングとGRUを用いて高次元の依存関係を捉え、ユーザーの好みと知識グラフの意味論を効果的に統合することで、実世界のデータセットにおいて最先端の性能を達成する。

ABSTRACT

Graph neural networks (GNN) have recently been applied to exploit knowledge graph (KG) for recommendation. Existing GNN-based methods explicitly model the dependency between an entity and its local graph context in KG (i.e., the set of its first-order neighbors), but may not be effective in capturing its non-local graph context (i.e., the set of most related high-order neighbors). In this paper, we propose a novel recommendation framework, named Contextualized Graph Attention Network (CGAT), which can explicitly exploit both local and non-local graph context information of an entity in KG. Specifically, CGAT captures the local context information by a user-specific graph attention mechanism, considering a user's personalized preferences on entities. Moreover, CGAT employs a biased random walk sampling process to extract the non-local context of an entity, and utilizes a Recurrent Neural Network (RNN) to model the dependency between the entity and its non-local contextual entities. To capture the user's personalized preferences on items, an item-specific attention mechanism is also developed to model the dependency between a target item and the contextual items extracted from the user's historical behaviors. Experimental results on real datasets demonstrate the effectiveness of CGAT, compared with state-of-the-art KG-based recommendation methods.

研究の動機と目的

• 知識グラフ内のエンティティに対してユーザー固有の好みをモデル化する点で、従来のGNNベースの推薦手法に見られる限界を是正すること。
• 標準的なGNNがしばしば無視する、知識グラフ内の非局所的コンテキスト（高次元の近傍）を明示的に捉えること。
• ユーザーの履歴的インタラクションデータと知識グラフコンテキストを統合し、パーソナライズド推薦を改善すること。
• 局所的コンテキスト、非局所的コンテキスト、およびユーザー・アイテムインタラクションパターンを統合的にモデル化する統一フレームワークの構築。
• 実世界の推薦データセットを用いた広範な実験を通じて、提案モデルの有効性を検証すること。

提案手法

• CGATは、ユーザー固有のグラフアテンションメカニズムを用いて、知識グラフ内の一次近傍からの局所的コンテキスト情報を集約し、ユーザーのパーソナライズドな好みを捉える。
• 非局所的コンテキストエンティティを、全体の知識グラフから抽出するためにバイアス付きランダムウォークサンプリングプロセスを適用し、ターゲットアイテムに関連する高次元の近傍に焦点を当てる。
• ゲート付き再帰ユニット（GRU）を用いて、ターゲットエンティティとその非局所的に抽出されたコンテキストエンティティ間の順序依存性をモデル化し、長距離依存関係を捉える。
• 履歴的にインタラクションされたアイテムに基づいたユーザー好みをモデル化するため、アイテム固有のアテンションメカニズムを導入し、パーソナライゼーションを強化する。
• 正則化項を含むマルチタスク学習目的関数を用いて、ユーザー埋め込み、アイテム埋め込み、知識グラフ構造を同時に最適化する。
• アイテムの最終的なコンテキスト表現は、学習可能なアテンションゲートを用いて局所的および非局所的埋め込みを統合する。

実験結果

リサーチクエスチョン

• RQ1 知識グラフ内のエンティティに対してユーザー固有の好みをモデル化することで、推薦性能が向上するか？
• RQ2 知識グラフ内の非局所的（高次元の）近傍情報は、どの程度効果的に捉えられ、推薦に活用できるか？
• RQ3 ユーザーの履歴的インタラクションコンテキストと知識グラフコンテキストを統合することで、推薦精度が向上するか？
• RQ4 知識グラフベースの推薦において、局所的コンテキストと非局所的コンテキストの相対的な寄与度はどの程度か？
• RQ5 ウォーク長やサンプリングサイズといった主要なハイパーパrameterが、モデルの性能にどのように影響するか？

主な発見

• CGATは3つの実世界データセットにおいて、最先端のKGベースの推薦手法を上回り、HR@20スコアで最高を記録した。
• アブレーションスタディの結果、局所的および非局所的コンテキストの両方が不可欠であることが確認され、いずれかを除去すると性能が低下した。
• MLおよびBCデータセットにおいて、局所的コンテキストを除いたCGAT（CGAT w/o L）は、非局所的コンテキストを除いたCGAT（CGAT w/o G）をわずかに上回った。これは、特定の状況下では非局所的コンテキストがより情報を含んでいる可能性を示唆している。
• ユーザー固有のグラフアテンションメカニズム（CGAT w/o UA）は、非パーソナライズドなアテンションベースラインよりも顕著に性能を向上させた。これは、ユーザー好みをモデル化する有効性を裏付けている。
• 最適なハイパーパrameterは、近傍サンプリングサイズS=4、履歴アイテム数N=16、パスサンプリング数M=15、パス長L=4–12であり、λ₁=10⁻⁴が最良の性能をもたらした。
• KG構造の一貫性を強制する正則化項（λ₁）は性能を向上させた。これは、モデルにおける構造的インダクティブバイアスの価値を確認するものである。