[論文レビュー] HAKG: Hierarchy-Aware Knowledge Gated Network for Recommendation

Yuntao Du, Xinjun Zhu+3 more|arXiv (Cornell University)|Apr 11, 2022

Recommender Systems and Techniques被引用数 5

ひとこと要約

HAKGは、ハイパボリック空間におけるユーザ・アイテムの相互作用と知識グラフ（KG）の関係をモデル化することで、階層構造と高次元の協調信号を捉える階層認識型の知識ゲーテッドネットワークを提案する。二重のアイテム埋め込みとゲーテッド集約メカニズムを用いることで、推薦性能と解釈可能性が向上し、Alibaba-iFashion、Amazon-Book、Yelpの3つのベンチマークデータセットにおいて、CKAN、Hyper-Know、KGINなどの最先端手法を上回る性能を発揮する。

ABSTRACT

Knowledge graph (KG) plays an increasingly important role to improve the recommendation performance and interpretability. A recent technical trend is to design end-to-end models based on information propagation schemes. However, existing propagation-based methods fail to (1) model the underlying hierarchical structures and relations, and (2) capture the high-order collaborative signals of items for learning high-quality user and item representations. In this paper, we propose a new model, called Hierarchy-Aware Knowledge Gated Network (HAKG), to tackle the aforementioned problems. Technically, we model users and items (that are captured by a user-item graph), as well as entities and relations (that are captured in a KG) in hyperbolic space, and design a hyperbolic aggregation scheme to gather relational contexts over KG. Meanwhile, we introduce a novel angle constraint to preserve characteristics of items in the embedding space. Furthermore, we propose a dual item embeddings design to represent and propagate collaborative signals and knowledge associations separately, and leverage the gated aggregation to distill discriminative information for better capturing user behavior patterns. Experimental results on three benchmark datasets show that, HAKG achieves significant improvement over the state-of-the-art methods like CKAN, Hyper-Know, and KGIN. Further analyses on the learned hyperbolic embeddings confirm that HAKG offers meaningful insights into the hierarchies of data.

研究の動機と目的

• 既存の知識認識型推薦モデルが知識グラフ内の階層構造や関係を捉える能力に限界があることに対処すること。
• KG中心の集約方式よりも、ユーザ・アイテム相互作用から得られる高次元の協調信号をより効果的にモデル化すること。
• ハイパボリック空間における階層的特徴を保持することで、ユーザおよびアイテムの表現学習を改善すること。
• 協調信号と知識関連性を区別し、二重埋め込みを通じて統合する包括的なフレームワークを設計すること。
• ユーザ行動パターンのモデル化に特化した、選択的な特徴抽出が可能なゲーテッド集約メカニズムを設計すること。

提案手法

• Poincaréボール幾何を用いて、ハイパボリック空間でユーザ・アイテム相互作用およびKGのエンティティ・関係をモデル化することで、階層的データにおける歪みを低減する。
• 階層的関係を尊重しながら、KG上で関係的文脈を伝搬するハイパボリック集約スキームを設計する。
• 埋め込み空間におけるアイテムの構造的特徴を保持するために、ハイパボリック空間に角度制約を導入する。
• 協調信号（ユーザ・アイテム相互作用から得る）を扱う埋め込みと、KGからの知識関連性を扱う埋め込みの二重のアイテム埋め込みを提案する。
• ユーザ行動パターンに応じて、両方の埋め込みからの情報を動的に統合するゲーテッド集約メカニズムを実装する。
• ユーザ・アイテム相互作用とKGを統合した単一の非均質的グラフとして扱う包括的なグラフ学習フレームワークを構築し、エンド・ツー・エンドの学習を可能にする。

実験結果

リサーチクエスチョン

• RQ1 知識グラフ内の階層的構造をどのようによりよくモデル化すれば、推薦性能の向上が達成できるか？
• RQ2 ハイパボリック空間でのモデル化は、階層的ユーザ・アイテムおよびKGデータにおける歪みをどの程度低減するか？
• RQ3 協調信号と知識関連性を分離することで、推薦における表現学習が向上するか？
• RQ4 ゲーテッドメカニズムは、ユーザ行動パターンのモデル化に特化した判別的信号の選択にどの程度効果的か？
• RQ5 細分化された階層的関係（例：分類的リンク）の統合は、解釈可能性と性能の両面で向上をもたらすか？

主な発見

• HAKGは、Alibaba-iFashion、Amazon-Book、Yelpの3つのベンチマークデータセットにおいて、CKAN、Hyper-Know、KGINなどの最先端手法を顕著に上回る性能を達成する。
• 順位付けと正確性の両方の指標で優れた性能を示し、すべてのデータセットで一貫した改善が確認された。
• 学習されたハイパボリック埋め込みの可視化により、HAKGがアイテムの分類的関係を効果的に捉えていることが確認された。
• アブレーションスタディの結果、二重埋め込み設計とゲーテッド集約メカニズムの両方が性能向上に不可欠であり、それぞれが顕著な貢献をしていることが示された。
• ハイパボリック空間における角度制約は、アイテムの特徴を保持するのに役立ち、階層的でない関係との区別能力を向上させた。
• ハイパボリック幾何の使用により、スパarsなデータや階層的データに対して、よりコンactかつ意味のある表現が得られた。