[論文レビュー] Cascading Residual Graph Convolutional Network for Multi-Behavior Recommendation

Mingshi Yan, Zhiyong Cheng+5 more|arXiv (Cornell University)|May 26, 2022

Recommender Systems and Techniques被引用数 6

ひとこと要約

本稿では、複数の行動タイプ（例：閲覧、カート追加、購入）を活用してデータスパarsityを緩和し、追加パラメータを追加せずに順序付きのユーザー行動の関係性を明示的にモデル化する軽量な段階的残差グラフ畳み込みネットワーク、CRGCNを提案する。視察、カート、購入の各行動において、ユーザー埋め込みを残差伝搬により精練することで、3つの実世界データセット上で最先端のベースライン比でHR@Kで24.76–27.28%の相対的向上を達成した。

ABSTRACT

Multi-behavior recommendation exploits multiple types of user-item interactions to alleviate the data sparsity problem faced by the traditional models that often utilize only one type of interaction for recommendation. In real scenarios, users often take a sequence of actions to interact with an item, in order to get more information about the item and thus accurately evaluate whether an item fits personal preference. Those interaction behaviors often obey a certain order, and different behaviors reveal different information or aspects of user preferences towards the target item. Most existing multi-behavior recommendation methods take the strategy to first extract information from different behaviors separately and then fuse them for final prediction. However, they have not exploited the connections between different behaviors to learn user preferences. Besides, they often introduce complex model structures and more parameters to model multiple behaviors, largely increasing the space and time complexity. In this work, we propose a lightweight multi-behavior recommendation model named Cascading Residual Graph Convolutional Network (CRGCN for short), which can explicitly exploit the connections between different behaviors into the embedding learning process without introducing any additional parameters. In particular, we design a cascading residual graph convolutional network structure, which enables our model to learn user preferences by continuously refining user embeddings across different types of behaviors. The multi-task learning method is adopted to jointly optimize our model based on different behaviors. Extensive experimental results on two real-world benchmark datasets show that CRGCN can substantially outperform state-of-the-art methods. Further studies also analyze the effects of leveraging multi-behaviors in different numbers and orders on the final performance.

研究の動機と目的

• 単一の行動に依存するのではなく、閲覧、カート追加、購入などの複数のユーザー・アイテム相互作用タイプを活用することで、協調フィルタリングにおけるデータスパarsityを緩和すること。
• 閲覧→カート→購入といった行動の順序的かつ相互に依存する性質をモデル化し、進化するユーザーの好みを反映すること。
• モデルの複雑さを増さずに、効率的なパラメータ設計を実現し、好みの表現を向上させること。
• ユーザーとアイテムの埋め込みを同時に最適化するための効果的なマルチタスク学習を可能にすること。
• パフォーマンスを犠牲にせずに、実世界の展開に適した高い効率性とスケーラビリティを達成すること。

提案手法

• 異なる行動タイプにわたるユーザー埋め込みを段階的に精錬する段階的残差GCN構造を提案し、残差スキップ接続を用いて特徴学習を保持・強化する。
• 各行動タイプを別々のエッジタイプとして表現する統一されたユーザー・アイテム相互作用グラフを構築し、行動間でのメッセージパッシングを可能にする。
• 各行動タイプの予測ヘッドを同時に最適化するマルチタスク学習を適用し、同じ埋め込み空間を共有することで知識の転送を促進する。
• 残差ブロックを用いて、ユーザー埋め込みを低意図（閲覧）から高意図（購入）の行動へと段階的に伝搬・精錬し、好みの進化をモデル化する。
• マルチ・ビヘイビア・モデリングに追加のパラメータを導入せず、単一行動モデル（例：LightGCN）と同等の計算複雑性を維持する。
• グラフ畳み込み層を用いて、行動間で隣接ノードの情報を集約し、学習可能な係数による注目度付き重み付けをアグリゲーションプロセスに組み込む。

実験結果

リサーチクエスチョン

• RQ1 ユーザー行動の順序的依存性（例：閲覧→カート→購入）をモデル化することで、多行動推薦におけるユーザー好みの表現が向上するか？
• RQ2 段階的残差GCN構造は、独立型や早期統合手法と比較して、複数の行動タイプにわたるユーザー埋め込みの精錬をより効果的に行えるか？
• RQ3 追加のパラメータやトレーニングコストを増やさずに、多行動推薦モデルが最先端のパフォーマンスを達成できるか？
• RQ4 行動の順序と数が、最終的な推薦精度およびコールドスタート性能に与える影響はどの程度か？
• RQ5 提案手法は、効率性とスケーラビリティの面で、既存の多行動モデルをどの程度上回るか？

主な発見

• CRGCNは、3つのベンチマークデータセット（Tmall, Beibei, Jdata）において、最良のベースライン比でHR@K（K=10,20,50,80）で24.76%、27.28%、25.10%の相対的向上を達成した。
• コールドスタートのシナリオにおいても、S-MBRec や MBGCN より優れた性能を示し、希少なユーザー相互作用データに対してより高いロバスト性を示した。
• MBGCN や S-MBRec よりも著しく効率的であり、JdataデータセットではS-MBRecに比べて1エポックあたりのトレーニング時間が最大80%短縮された。
• パラメータフリー設計のおかげで、より多くの相互作用データを使用しているにもかかわらず、LightGCN などの単一行動モデルと同等の1エポックあたりのトレーニング時間を維持した。
• アブレーションスタディの結果、段階的残差ブロックとマルチタスク学習の両方が性能向上に不可欠であることが確認され、各コンポONENTが最終的な向上に顕著な寄与をした。
• 推論時間も単一行動モデルと同等であり、大規模システムにおけるリアルタイム展開に適している。