[論文レビュー] Multi-Component Graph Convolutional Collaborative Filtering

Xiao Wang, Ruijia Wang+3 more|arXiv (Cornell University)|Nov 25, 2019

Recommender Systems and Techniques参考文献 27被引用数 8

ひとこと要約

本稿では、ユーザーとアイテムの相互作用エッジを複数の潜在的要因に分解することで、細分化されたユーザーの好みを捉える、新しいグラフニューラルネットワークモデルであるMulti-Component Graph Convolutional Collaborative Filtering（MCCF）を提案する。階層的アテンション機構を用いてこれらの要因を動的に重み付け・再結合することで、特に複数の動機が共存する高密度データセットにおいて、標準的な協調フィルタリング手法に比べて推薦精度を顕著に向上させる。

ABSTRACT

The interactions of users and items in recommender system could be naturally modeled as a user-item bipartite graph. In recent years, we have witnessed an emerging research effort in exploring user-item graph for collaborative filtering methods. Nevertheless, the formation of user-item interactions typically arises from highly complex latent purchasing motivations, such as high cost performance or eye-catching appearance, which are indistinguishably represented by the edges. The existing approaches still remain the differences between various purchasing motivations unexplored, rendering the inability to capture fine-grained user preference. Therefore, in this paper we propose a novel Multi-Component graph convolutional Collaborative Filtering (MCCF) approach to distinguish the latent purchasing motivations underneath the observed explicit user-item interactions. Specifically, there are two elaborately designed modules, decomposer and combiner, inside MCCF. The former first decomposes the edges in user-item graph to identify the latent components that may cause the purchasing relationship; the latter then recombines these latent components automatically to obtain unified embeddings for prediction. Furthermore, the sparse regularizer and weighted random sample strategy are utilized to alleviate the overfitting problem and accelerate the optimization. Empirical results on three real datasets and a synthetic dataset not only show the significant performance gains of MCCF, but also well demonstrate the necessity of considering multiple components.

研究の動機と目的

• 既存の協調フィルタリング手法がすべてのユーザーとアイテムの相互作用を一様に扱うという限界を是正すること。これは、多様な背後にある購入動機を無視している。
• 観測された相互作用の背後にある複数の潜在的要因を特定し、それを活用することで、細分化されたユーザーの好みをモデル化すること。
• 自動的にこれらの要因を分解・再結合できるエンドツーエンドのディープラーニングフレームワークを構築し、推薦性能を向上させること。

提案手法

• MCCFフレームワークは、2つのコアモジュールから構成される：ユーザーとアイテムのエッジを複数の潜在的要因に分割するノードレベルのアテンションを用いるデコンポーザー。
• コンビナリアモジュールは、要因レベルのアテンションを適用して、潜在的要因を動的に重み付け・統合し、統一されたユーザーおよびアイテム埋め込みを生成する。
• モデルの過パラメータ化による過学習を緩和するためにスパース正則化子が適用される。
• 最適化の高速化とノイズの多いペairワイズラベルの処理のため、レーティングスコアに基づく重み付きランダムサンプリング戦略が用いられる。
• 階層的アテンション機構により、アイテム固有のレベルおよびユーザー集約レベルの両方で、異なる要因の重要性を学習する。
• 全フレームワークは、ユーザーとアイテムの二部グラフ上でエンドツーエンドに訓練され、細分化された意味的モデリングを伴う統合的表現学習が可能になる。

実験結果

リサーチクエスチョン

• RQ1 ユーザーとアイテムの相互作用に複数の潜在的購入動機をモデル化することで、すべての相互作用を一様に扱う手法に比べて、より良い推薦性能が得られるか？
• RQ2 グラフベースの協調フィルタリングフレームワークにおいて、ユーザーとアイテムの相互作用の背後にある複数の潜在的要因を効果的に発見・表現する方法は何か？
• RQ3 要因の数がモデル性能に与える影響はどの程度で、異なるデータスパarsityレベルに対して最適な構成は何か？
• RQ4 階層的アテンション機構は、学習された表現において、異なる購入動機の意味的意味をどの程度的確に捉え・反映できるか？

主な発見

• MCCFは、3つの実世界データセット（Yelp、Amazon、MovieLens）および1つの合成データセットにおいて、最先端の協調フィルタリング手法に比べて顕著な性能向上を達成した。
• Amazon や MovieLens のような高密度データセットでは、要因の数（K）を増やすことで性能が向上し、最適点に達した後は過学習のため性能が飽和または低下する傾向を示した。
• Yelp のようなスパースデータセットでは、1つの要因で十分であることが示され、多要因モデリングの必要性はデータ密度とレーティング分布に依存することがわかった。
• t-SNEを用いたアテンション重みの可視化により、モデルが同じ潜在的動機を持つアイテムを明確にクラスタリングしていることが確認され、暗黙の意味的特徴を正しく捉えていることが裏付けられた。
• 最適な要因の数（K）はデータセットによって異なる：合成データセットではK=3が最良の性能を示し、Amazon および MovieLens ではK=2またはK=3が最適であった。
• 埋め込み次元（d）を増やすことで性能が向上するが、ある点を過ぎると過学習が生じるため、表現能力とモデルの複雑さのトレードオフが存在することが示された。