[論文レビュー] Graph-Enhanced Multi-Task Learning of Multi-Level Transition Dynamics for Session-based Recommendation

Chao Huang, Jiahui Chen+7 more|arXiv (Cornell University)|Oct 8, 2021

Recommender Systems and Techniques被引用数 13

ひとこと要約

本稿では、位置に敏感なアテンションメカニズムと階層的グラフエンコーダーを用いて、セッション内順序的遷移とセッション間の高次元のアイテム依存関係を統合的にモデル化する、グラフ拡張型マルチタスク学習フレームワークMTDを提案する。実験の結果、3つの実世界データセットにおいて最先端の手法を上回る性能を発揮するとともに、効率的な学習時間を維持している。

ABSTRACT

Session-based recommendation plays a central role in a wide spectrum of online applications, ranging from e-commerce to online advertising services. However, the majority of existing session-based recommendation techniques (e.g., attention-based recurrent network or graph neural network) are not well-designed for capturing the complex transition dynamics exhibited with temporally-ordered and multi-level inter-dependent relation structures. These methods largely overlook the relation hierarchy of item transitional patterns. In this paper, we propose a multi-task learning framework with Multi-level Transition Dynamics (MTD), which enables the jointly learning of intra- and inter-session item transition dynamics in automatic and hierarchical manner. Towards this end, we first develop a position-aware attention mechanism to learn item transitional regularities within individual session. Then, a graph-structured hierarchical relation encoder is proposed to explicitly capture the cross-session item transitions in the form of high-order connectivities by performing embedding propagation with the global graph context. The learning process of intra- and inter-session transition dynamics are integrated, to preserve the underlying low- and high-level item relationships in a common latent space. Extensive experiments on three real-world datasets demonstrate the superiority of MTD as compared to state-of-the-art baselines.

研究の動機と目的

• 既存のセッションベース推薦手法が複雑で多段階のアイテム遷移ダイナミクスを捉えることの制限を解消すること。
• 統一されたフレームワーク内でセッション内順序パターンとセッション間の高次元依存関係を同時にモデル化すること。
• 共有された潜在空間に低レベル（セッション内）および高レベル（セッション間）のアイテム関係を保持すること。
• グラフニューラルネットワークとアテンションメカニズムを用いて階層的遷移信号を統合することで、推薦精度を向上させること。

提案手法

• 位置符号化を自己アテンションに組み込むことで、セッション内順序的遷移を捉える位置に敏感な二段階アテンションネットワークを設計した。
• グラフ構造の階層的関係エンコーダーは、グローバルなアイテム相互作用グラフ上で埋め込み伝搬を実行し、セッション間の依存関係をモデル化する。
• 共通の潜在空間で表現を共有することで、セッション内およびセッション間の学習をマルチタスク学習の目的関数を通じて統合した。
• すべてのセッションから構築されたグローバルグラフを用いることで、セッション間での高次元接続性学習を可能にした。
• アテンションメカニズムは、位置と関連性に基づいてアイテム遷移の重みを動的に設定し、順序モデリングを改善した。
• エンドツーエンドで学習し、セッションレベルおよびグローバルな遷移信号を最適化する統合損失関数を用いた。

実験結果

リサーチクエスチョン

• RQ1 統一されたフレームワークは、セッション内順序的遷移とセッション間の高次元依存関係の両方を効果的にモデル化できるか？
• RQ2 局所的またはグローバルなパターンにのみ焦点を当てるモデルと比較して、階層的遷移ダイナミクスを組み込むことで推薦性能がどのように向上するか？
• RQ3 位置に敏感なアテンションは、セッション固有の順序的行動を捉えるのにどの程度寄与するか？
• RQ4 グラフ拡張型階層的エンコーダーは、セッション間の依存関係モデリングをどのように改善するか？
• RQ5 提案されたMTDフレームワークは、大規模な設定においてどの程度の計算効率を示すか？

主な発見

• MTDは、YooChoose、Diginetica、RetailRocketの3つの実世界データセットにおいて、最先端の性能を達成した。
• YooChooseデータセットでは、MTDはHit@20が81.3%を達成し、次に優れたベースラインより2%以上優れていた。
• Digineticaでは、MTDはHit@20が78.9%を達成し、STAMPやSASRecと比較して顕著な改善を示した。
• RetailRocketでは、MTDはHit@20が74.1%を達成し、複雑なアーキテクチャを有するSR-GNNやCSRMを上回った。
• MTDは優れた計算効率を示し、YooChoose、Diginetica、RetailRocketそれぞれで1エポックあたり24秒、40秒、53秒の学習時間を記録した。
• アブレーションスタディの結果、位置に敏感なアテンションとグラフベースの階層的エンコーダーの両方が、性能向上に顕著な寄与をしていることが確認された。