[論文レビュー] DiffNet++: A Neural Influence and Interest Diffusion Network for Social Recommendation

Le Wu, Junwei Li+4 more|arXiv (Cornell University)|Jan 15, 2020

Recommender Systems and Techniques参考文献 51被引用数 48

ひとこと要約

DiffNet++ は、ソーシャル（ユーザー-ユーザー）グラフと興味（ユーザー-アイテム）グラフの両方でニューラル拡散を統合し、ソーシャル推奨のためのユーザー/アイテム埋め込みを強化して学習し、複数のデータセットでベースラインを上回る。

ABSTRACT

Social recommendation has emerged to leverage social connections among users for predicting users' unknown preferences, which could alleviate the data sparsity issue in collaborative filtering based recommendation. Early approaches relied on utilizing each user's first-order social neighbors' interests for better user modeling and failed to model the social influence diffusion process from the global social network structure. Recently, we propose a preliminary work of a neural influence diffusion network (i.e., DiffNet) for social recommendation (Diffnet), which models the recursive social diffusion process to capture the higher-order relationships for each user. However, we argue that, as users play a central role in both user-user social network and user-item interest network, only modeling the influence diffusion process in the social network would neglect the users' latent collaborative interests in the user-item interest network. In this paper, we propose DiffNet++, an improved algorithm of DiffNet that models the neural influence diffusion and interest diffusion in a unified framework. By reformulating the social recommendation as a heterogeneous graph with social network and interest network as input, DiffNet++ advances DiffNet by injecting these two network information for user embedding learning at the same time. This is achieved by iteratively aggregating each user's embedding from three aspects: the user's previous embedding, the influence aggregation of social neighbors from the social network, and the interest aggregation of item neighbors from the user-item interest network. Furthermore, we design a multi-level attention network that learns how to attentively aggregate user embeddings from these three aspects. Finally, extensive experimental results on two real-world datasets clearly show the effectiveness of our proposed model.

研究の動機と目的

• ソーシャル情報と高次グラフ構造を通じて協調フィルタリングのデータスパース性に対処する動機付け。
• ソーシャルインフルエンス拡散と興味拡散を共同で捉える統一モデルを提案する。
• 両方のグラフと複数の拡散層からの情報を適応的に融合する多層アテンション機構を設計する。
• 反復的な拡散層を通じて高次の関係を捉えるユーザーおよびアイテムの埋め込みを学習する。
• 実世界データセットで、ベースラインと比較してトップ-N推奨性能の改善を示す。

提案手法

• 関連するユーザー/アイテム属性を持つ、ユーザー-ユーザーソーシャルグラフとユーザー-アイテム興味グラフからなる異種グラフ G を定式化する。
• 統一フレームワーク内で、ソーシャルグラフ上の影響拡散とアイテムグラフ上の興味拡散を共同でモデル化することにより、DiffNet を DiffNet++ に拡張する。
• 埋め込み層を用いて自由なユーザー/アイテム埋め込みを取得し、融合層で属性と組み合わせる。
• 近傍ノードおよびグラフから集約重みを学習する多層アテンションネットワークを用いて、影響拡散層と興味拡散層を介してユーザーおよびアイテムの埋め込みを反復的に更新する。
• ユーザー-アイテムグラフでアテンション重みを介して隣接ユーザーからアイテム表現を集約し、ソーシャルインフルエンスとアイテム-興味シグナルの両方を用いてグラフレベルの融合重み付きでユーザー表現を更新する。
• 拡散層をまたぐ結合埋め込みを用いて評価を予測し、過度な平滑化を抑制するLR-GCCF風の予測を採用する。

実験結果

リサーチクエスチョン

• RQ1 より高次のソーシャルインフルエンス拡散とアイテム-興味拡散を共同でモデル化することは、いずれか一方のグラフのみをモデル化するよりもソーシャル推奨を改善できるか？
• RQ2 各ユーザーに対してソーシャルグラフとアイテムグラフの寄与を適応的にバランスさせる多層アテンションをどのように設計すべきか？
• RQ3 拡散深さ K が推奨性能に与える影響はどうか、そして DiffNet++ は過度の平滑化をいかに抑制するか？
• RQ4 実世界データセットで、DiffNet++ ベースの埋め込みはトップ-N推奨で強力なベースラインを上回るか？

主な発見

• DiffNet++ は、トップ10推奨で Yelp で約14%、Flickr で約21%、Epinions で約12%、Dianping で約4%と、最良のベースラインを上回る。
• 本モデルは、多層アテンション機構を介して、ソーシャルネットワークとアイテムネットワークの高次情報を効果的に融合する。
• アイテム埋め込みは、ユーザー-アイテムグラフ内の隣接ユーザーからの集約と、学習済みのアテンション重みにより恩恵を受ける。
• ユーザー埋め込みは、ソーシャルインフルエンスとアイテム-興味拡散の両方を統合し、グラフ対応の融合重みをユーザーごとにパーソナライズする。
• 4つの実世界データセットでの実験は、提案された統一フレームワークの有効性を示している。