[論文レビュー] Faithful Path Language Modeling for Explainable Recommendation over Knowledge Graph

Giacomo Balloccu, Ludovico Boratto+3 more|arXiv (Cornell University)|Oct 25, 2023

Advanced Graph Neural Networks被引用数 4

ひとこと要約

PEARLMは、推奨理由の説明可能システムにおける忠実で幻覚のないパス生成を保証するため、デコード中に有効なKG接続を強制することで、知識グラフ制約付きデコード機構（KGCD）を導入する。直接トークン埋め込み学習とKGCDを組み合わせることで、PEARLMは最先端の推薦精度と説明の忠実性を達成し、損傷を受けたパスを排除しながら、モデルに依存せずリソース制限のある環境でも利用可能である。

ABSTRACT

The integration of path reasoning with language modeling in recommender systems has shown promise for enhancing explainability but often struggles with the authenticity of the explanations provided. Traditional models modify their architecture to produce entities and relations alternately--for example, employing separate heads for each in the model--which does not ensure the authenticity of paths reflective of actual Knowledge Graph (KG) connections. This misalignment can lead to user distrust due to the generation of corrupted paths. Addressing this, we introduce PEARLM (Path-based Explainable-Accurate Recommender based on Language Modelling), which innovates with a Knowledge Graph Constraint Decoding (KGCD) mechanism. This mechanism ensures zero incidence of corrupted paths by enforcing adherence to valid KG connections at the decoding level, agnostic of the underlying model architecture. By integrating direct token embedding learning from KG paths, PEARLM not only guarantees the generation of plausible and verifiable explanations but also highly enhances recommendation accuracy. We validate the effectiveness of our approach through a rigorous empirical assessment, employing a newly proposed metric that quantifies the integrity of explanation paths. Our results demonstrate a significant improvement over existing methods, effectively eliminating the generation of inaccurate paths and advancing the state-of-the-art in explainable recommender systems.

研究の動機と目的

• 言語モデルベースの説明可能推薦システムにおけるパス幻覚問題に対処すること。
• 生成された説明パスが下位の知識グラフに事実上根ざしていることを保証し、ユーザーの信頼とシステムの信頼性を向上させること。
• モデルアーキテクチャを変更せずにKGの有効性を強制する、モデルに依存しないデコード機構を開発すること。
• KGパスから直接埋め込みを学習することで、推薦精度を向上させ、有用性と忠実性の両方を強化すること。
• パスの整合性とユーザーの信頼を測る新しい指標を用いて、手法の有効性を検証すること。

提案手法

• デコード段階で有効なKG遷移（エンティティ-関係の交互）を強制する、デコードレベルの機構である知識グラフ制約付きデコード（KGCD）を導入する。
• エンティティと関係を交互に生成する構造的・構造的にKGパスを模倣する因果的言語モデルフレームワークを採用する。
• KGエンティティと関係の直接トークン埋め込み学習を活用し、表現品質とモデル性能を向上させる。
• パスの整合性を定量化する新しい指標を用い、生成された説明における損傷を受けたパスの頻度を測定する。
• KGCDを推論時のみに適用し、モデルアーキテクチャや学習プロセスにかかわらず、すべての生成パスが有効であることを保証する。
• ユーザーのアンケートを用いて、パス幻覚が信頼と満足度に与える影響を評価する。

実験結果

リサーチクエスチョン

• RQ1 KGCDは、説明可能推薦システムにおいて、損傷を受けたまたは幻覚的なパスの生成をどの程度排除できるか？
• RQ2 KGパスからの直接トークン埋め込み学習は、推薦精度と説明の忠実性にどのように影響を与えるか？
• RQ3 モデルサイズとサンプルサイズは、特にパス長（3ホップ対5ホップ）に関して、PEARLMのパフォーマンスにどのような影響を与えるか？
• RQ4 パス幻覚は、推薦システムにおけるユーザーの信頼と満足度にどのような影響を与えるか？
• RQ5 KGCD機構は、アーキテクチャの変更なしに、既存のパスベース言語モデルに適用可能か？

主な発見

• 新しいパス整合性指標による測定において、PEARLMはデコード段階で有効なKG遷移を強制することで、損傷を受けたパスの生成を成功裏に排除した。
• モデルは最先端の推薦パフォーマンスを達成し、distilPEARLMは、ML1MおよびLFM1Mデータセットの最適なサンプルサイズにおいて、より大きなバージョンを上回った。
• 3ホップパスは5ホップパスよりも優れたパフォーマンスを示し、パス長の増加がノイズをもたらし一般化性能を低下させることを示している。
• 直接トークン埋め込み学習が、パフォーマンス向上の主な要因であり、従来手法を顕著に上回った。
• ユーザーのアンケート結果は、幻覚的なパスがユーザーの信頼を著しく損なうことを確認しており、説明の忠実性の必要性を裏付けた。
• KGCDはモデルに依存せず、任意のパスベース言語モデルに適用可能であり、アーキテクチャの変更なしに説明の信頼性を保証できる。