[論文レビュー] HCGR: Hyperbolic Contrastive Graph Representation Learning for Session-based Recommendation

Naicheng Guo, Xiaolei Liu+7 more|arXiv (Cornell University)|Jul 6, 2021

Recommender Systems and Techniques参考文献 46被引用数 6

ひとこと要約

HCGRは、階層的なアイテム関係をモデル化し、表現学習を向上させるためにローレンツ双曲空間を活用する、双曲的対照的グラフニューラルネットワークを提案する。測地線距離に基づく適応的双曲的アテンションと対照学習を統合することで、4つの実世界データセットにおいてHitRate、NDCG、MRRの指標でSOTAベースラインを最大28.84%上回る最先端の性能を達成した。

ABSTRACT

Session-based recommendation (SBR) learns users' preferences by capturing the short-term and sequential patterns from the evolution of user behaviors. Among the studies in the SBR field, graph-based approaches are a relatively powerful kind of way, which generally extract item information by message aggregation under Euclidean space. However, such methods can't effectively extract the hierarchical information contained among consecutive items in a session, which is critical to represent users' preferences. In this paper, we present a hyperbolic contrastive graph recommender (HCGR), a principled session-based recommendation framework involving Lorentz hyperbolic space to adequately capture the coherence and hierarchical representations of the items. Within this framework, we design a novel adaptive hyperbolic attention computation to aggregate the graph message of each user's preference in a session-based behavior sequence. In addition, contrastive learning is leveraged to optimize the item representation by considering the geodesic distance between positive and negative samples in hyperbolic space. Extensive experiments on four real-world datasets demonstrate that HCGR consistently outperforms state-of-the-art baselines by 0.43$\%$-28.84$\%$ in terms of $HitRate$, $NDCG$ and $MRR$.

研究の動機と目的

• セッションベース推薦における階層的でパワー則に従うユーザ行動パターンを捉えるために、ユークリッド空間の限界を解決すること。
• ユークリッド空間にツリー構造の階層的アイテム関係を埋め込むことによる歪みを、双曲幾何の内在的表現能力を活用して克服すること。
• アテンションベースの集約におけるユークリッド空間と双曲空間の幾何的不一致を尊重する、新たな双曲的グラフメッセージパッシング機構を設計すること。
• 双曲空間における測地線距離を最適化する対照学習により、正例と負例の間の区別能を向上させ、アイテム表現学習を強化すること。
• 双曲空間がアイテム人気の階層をより良く保持でき、順序付きユーザ行動におけるより適応的なアテンション重み付けを可能にすることを実証すること。

提案手法

• 双曲空間の体積増大の指数的特性を活用し、アイテムをローレンツ双曲空間に埋め込むことで、その階層的で一貫性のある構造的性質を保持すること。
• 双曲空間における測地線距離を用いてメッセージ伝搬を計算する適応的双曲アテンション機構を設計し、集約過程での幾何的一致性を確保すること。
• 正例ペア間の測地線距離を最小化し、負例ペア間の距離を最大化することで、アイテム表現を最適化する対照学習目的関数を導入すること。
• 双曲ベクトル加算やアテンション計算を含む安定で微分可能な演算を可能にするために、ローレンツ双曲面モデルを活用し、幾何的忠実性を維持すること。
• ノード埋め込みが双曲メッセージパッシングを介して更新されるグラフニューラルネットワークフレームワークを構築し、アテンション重みは双曲多様体の接空間で学習すること。
• 双曲空間に特化した温度スケーリング付き対照損失関数を適用し、双曲幾何を適切に反映しない従来の交差エントロピー損失やBPR損失に代わること。

実験結果

リサーチクエスチョン

• RQ1 セッションベース推薦において、ユークリッド空間と比較して双曲空間が、ユーザセッション行動の階層的かつパワー則に従う性質をより良く表現できるか？
• RQ2 双曲対照学習は、セッションベース推薦におけるアイテム表現の区別能をどのように向上させるか？
• RQ3 提案された双曲アテンション機構は、ユークリッドベースのアテンションと比較して、長距離依存関係やアイテムの重要度をどれほど効果的に捉えられるか？
• RQ4 実世界のデータセットにおいて、アイテム人気の階層をモデル化する際、双曲幾何の統合が表現歪みを軽減するか？
• RQ5 多様なセッションベース推薦ベンチマークにおいて、HCGRはHitRate、NDCG、MRRの観点でSOTAモデルと比較してどの程度優れているか？

主な発見

• HCGRは、4つの実世界データセットにおいて、HitRate、NDCG、MRRの指標でSOTAベースラインを0.43%〜28.84%まで上回る一貫した改善を達成した。
• モデルは、より人気のあるアイテムが双曲空間の原点付近に集中するという階層的アイテム人気の捉え方を優れた能力で示しており、アテンションと埋め込みの可視化によって裏付けられた。
• 双曲空間により、人気の高いアイテム同士の区別が明確になり、HCGRではECGRと比較して上位クラスのアイテム（領域1）の平均相互作用回数が高くなった。
• HCGRのアテンション重みはより適応的かつ区別能に優れており、重要な行動遷移に高いスコアが割り当てられており、順序付き影響のモデリングが優れていることを示している。
• 2次元および3次元の双曲空間における埋め込み可視化から、明確な階層的クラスタリングが観察され、人気の高いアイテムが中心に位置し、人気が低いアイテムは外側に放射状に配置されている。
• 双曲空間における対照学習は、正例ペアと負例ペア間の測地線距離の分離が向上することで、表現品質の向上が顕著に示された。