[論文レビュー] IA-GCN: Interactive Graph Convolutional Network for Recommendation

Yinan Zhang, Pei Wang+8 more|arXiv (Cornell University)|Apr 8, 2022

Recommender Systems and Techniques被引用数 9

ひとこと要約

IA-GCNは、メッセージ伝達中にユーザーとアイテムのツリー間で、ターゲットに特化した注意機構を導入することで、ユーザーおよびアイテムの表現学習を向上させる、新しいグラフ畳み込みネットワークを提案する。ターゲットアイテムやユーザーとの類似度に基づいて隣接ノードを動的に重み付けすることで、IA-GCNは好みの予測精度を向上させ、Amazon Bookでは最大15%の相対的改善を達成し、LightGCN や NGCF などの最先端モデルを上回る性能を発揮する。

ABSTRACT

Recently, Graph Convolutional Network (GCN) has become a novel state-of-art for Collaborative Filtering (CF) based Recommender Systems (RS). It is a common practice to learn informative user and item representations by performing embedding propagation on a user-item bipartite graph, and then provide the users with personalized item suggestions based on the representations. Despite effectiveness, existing algorithms neglect precious interactive features between user-item pairs in the embedding process. When predicting a user's preference for different items, they still aggregate the user tree in the same way, without emphasizing target-related information in the user neighborhood. Such a uniform aggregation scheme easily leads to suboptimal user and item representations, limiting the model expressiveness to some extent. In this work, we address this problem by building bilateral interactive guidance between each user-item pair and proposing a new model named IA-GCN (short for InterActive GCN). Specifically, when learning the user representation from its neighborhood, we assign higher attention weights to those neighbors similar to the target item. Correspondingly, when learning the item representation, we pay more attention to those neighbors resembling the target user. This leads to interactive and interpretable features, effectively distilling target-specific information through each graph convolutional operation. Our model is built on top of LightGCN, a state-of-the-art GCN model for CF, and can be combined with various GCN-based CF architectures in an end-to-end fashion. Extensive experiments on three benchmark datasets demonstrate the effectiveness and robustness of IA-GCN.

研究の動機と目的

• GCNベースの協調フィルタリングにおける後期融合の限界、すなわちユーザーとアイテムの表現がターゲット固有の相互作用を考慮せずに独立して集約される点を是正すること。
• グラフ畳み込みの過程でユーザーとアイテムのツリー間の相互作用を統合することで、ターゲットアイテムまたはユーザーに関連する近隣ノードに焦点を当てる表現学習の向上。
• ユーザーとアイテムの相互作用特徴を早期融合することで、モデルの表現力、汎化性能、訓練収束性を向上させること。
• LightGCN などの既存のGCNベースの推薦フレームワークと互換性があるプラグインモジュールを設計し、広範な適用性を実現すること。

提案手法

• ユーザーのツリー集約をアイテム固有の類似度、アイテムのツリー集約をユーザー固有の類似度でガイドする二重の相互作用的注意機構を導入。
• 学習可能な注意重みを用いて、ターゲットアイテムに類似したユーザーの近隣ノードを優先し、逆にアイテム側についても同様に処理。
• ターゲットに配慮した注意機構を組み込むことでGCNのメッセージ伝達プロセスを変更し、均一な近隣集約を動的で文脈に依存する重み付けに置き換える。
• 学習可能な係数による多層埋め込みの重み付き和を用いることで高次特徴をよりよく捉え、表現品質を向上。
• LightGCN をベースモデルとして採用し、エンドツーエンド学習と他のGCNベースの推薦アーキテクチャへのシームレスな統合を可能に。
• ユーザーとアイテムのツリーを同時に更新する二本のツリー構造を採用し、各ツリーの集約が相手のターゲットノードによってガイドされる。

実験結果

リサーチクエスチョン

• RQ1 GCNベースの協調フィルタリングにおけるユーザーとアイテムのツリー間の相互作用的ガイドラインが、表現学習にどのように影響を与えるか？
• RQ2 ターゲット固有の注意機構により、メッセージ伝達中に関連する近隣ノードに焦点を当てることが、推薦性能の向上に寄与するか？
• RQ3 相互作用的注意を用いたユーザーとアイテムの特徴の早期融合は、データスパarsityを緩和し、モデルの汎化性能を向上させるか？
• RQ4 層の組み合わせ方（平均 vs. 重み付き）の選択が、モデル性能と特徴の精錬にどのように影響を与えるか？
• RQ5 自己注意機構や類縁度ベースの手法（例：NGCF）と比較して、相互作用的注意機構は、訓練収束の加速とモデル表現力の向上にどの程度寄与するか？

主な発見

• IA-GCNは、Amazon BookデータセットにおいてRecall@20で15%の相対的改善を達成し、最先端モデルを大きく上回る顕著な性能向上を示した。
• 重み付き層結合戦略は、すべてのデータセットで一貫した性能向上をもたらし、2層での平均集約から重み付き集約に移行した際、Amazon BookでRecall@20が0.0027上昇した。
• IA-GCNは、すべてのデータセットおよびモデルの深さにおいて、LightGCN、NGCF、SG-GCNを上回り、堅牢性と汎化能力を示した。
• 相互作用的注意機構の導入により、訓練のダイナミクスとアブレーションスタディの両面で、収束が速く、モデル表現力が向上した。
• 外部ガイドなしで自己注意機構や類縁度ベースのメカニズム（例：NGCF）を用いる場合、深さが増すと性能が低下し、ノイズの蓄積が顕著に見られた。
• モデルの有効性は、特にデータスパarsityの問題に対し顕著で、Amazon Book のようなスパースなデータセットにおいて、より顕著な性能向上が確認された。