[論文レビュー] KECRS: Towards Knowledge-Enriched Conversational Recommendation System

Tong Zhang, Yong Liu+4 more|arXiv (Cornell University)|May 18, 2021

Topic Modeling参考文献 39被引用数 11

ひとこと要約

KECRSは、外部の知識グラフ（KG）を統合することで、会話ベースの推薦対話における応答の多様性と情報量を向上させる、知識を強化した会話型推薦システムを提案する。Bag-of-Entity（BOE）損失とインジェクション損失を導入することで、知識の統合と埋め込みのアライメントを強化し、新たに構築された映画ドメイン用KG（TMDKG）を用いて、推薦精度と応答品質の両面で最先端の性能を達成した。

ABSTRACT

The chit-chat-based conversational recommendation systems (CRS) provide item recommendations to users through natural language interactions. To better understand user's intentions, external knowledge graphs (KG) have been introduced into chit-chat-based CRS. However, existing chit-chat-based CRS usually generate repetitive item recommendations, and they cannot properly infuse knowledge from KG into CRS to generate informative responses. To remedy these issues, we first reformulate the conversational recommendation task to highlight that the recommended items should be new and possibly interested by users. Then, we propose the Knowledge-Enriched Conversational Recommendation System (KECRS). Specifically, we develop the Bag-of-Entity (BOE) loss and the infusion loss to better integrate KG with CRS for generating more diverse and informative responses. BOE loss provides an additional supervision signal to guide CRS to learn from both human-written utterances and KG. Infusion loss bridges the gap between the word embeddings and entity embeddings by minimizing distances of the same words in these two embeddings. Moreover, we facilitate our study by constructing a high-quality KG, \ie The Movie Domain Knowledge Graph (TMDKG). Experimental results on a large-scale dataset demonstrate that KECRS outperforms state-of-the-art chit-chat-based CRS, in terms of both recommendation accuracy and response generation quality.

研究の動機と目的

• 既存の会話ベースの会話型推薦システム（CRS）における繰り返しの多いアイテム推薦と一般的な応答の限界を解消すること。
• 新しいアイテムでユーザーの関心に合致する推薦を優先するように、会話型推薦タスクを再定式化すること。
• 対話発話と知識グラフエンティティの間の意味的ギャップを埋め、より情報量が多く多様性のある応答を生成すること。
• 映画推薦に特化した高品質なドメイン固有の知識グラフ（TMDKG）を構築し、より良い理解と応答生成を支援すること。
• 知識グラフの埋め込みと自然言語の埋め込みを効果的に統合することで、推薦および対話生成の両方のパフォーマンスを向上させること。

提案手法

• 応答生成中に知識グラフから関連するエンティティを選択するのを支援するため、Bag-of-Entity（BOE）損失を提案し、多様性と情報量の向上を促進する。
• 語彙埋め込みとエンティティ埋め込みの間のコサイン距離を最小化することで、応答生成モジュールの語彙埋め込みと知識グラフのエンティティ埋め込みをアライメントするインジェクション損失を導入する。
• 映画の属性、ジャンル、関係性を豊富に含む高品質でドメイン特化型の知識グラフ「The Movie Domain Knowledge Graph（TMDKG）」を構築した。
• 推薦モジュール（アイテム選択用）と応答生成モジュール（自然言語応答用）の二重モジュールアーキテクチャに知識グラフを統合した。
• 対話応答損失、BOE損失、インジェクション損失の組み合わせを用いて微調整し、応答のなめらかさ、関連性、知識統合の両面を同時に最適化する。
• 主成分分析（PCA）を用いた可視化により、インジェクション損失が語彙埋め込みとエンティティ埋め込みを同じ意味的空間に効果的にアライメントしていることを実証した。

実験結果

リサーチクエスチョン

• RQ1 知識グラフの統合は、会話ベースの会話型推薦システムにおける繰り返しの多いアイテム推薦を減少させることができるか？
• RQ2 語彙埋め込みとエンティティ埋め込みを効果的にアライメントする方法は何か？これにより、生成された応答の関連性と情報量が向上するか？
• RQ3 一般向けKG（例：DBpedia）と比較して、ドメイン特化型で高品質なKG（TMDKG）を用いることで、推薦および応答生成のパフォーマンスが向上するか？
• RQ4 提案されたBOE損失およびインジェクション損失は、会話型推薦における応答の多様性と品質をどの程度向上させるか？
• RQ5 ユーザーが明示的にアイテムを言及していない状況でも、対話文脈から潜在的な関心（例：サスペンス映画の好み）を推論し、一般化可能な推薦が可能か？

主な発見

• KECRSは、TMDKG上での応答生成指標で最先端の性能を達成し、Dist-4スコアが1.23に達した。これは、最良のベースライン（KGSF）の0.73を著しく上回った。
• PCAプロットによる可視化により、インジェクション損失が語彙埋め込みとエンティティ埋め込みの間の分布的ギャップを効果的に縮小していることが確認された。
• DBpediaではなくTMDKGを用いることで、すべての指標で応答生成パフォーマンスが向上し、ドメイン特化型KGがノイズが少なくより関連性の高い情報を含んでいることを示した。
• KECRSは、TMDKGを用いた場合、KBRDおよびKGSFを常に上回り、AENおよびDist-4指標において統計的に有意な改善（p < 0.01）を示した。
• 事例研究では、KECRSが対話履歴からユーザーの関心（例：スリラー映画の好み）を推論し、新規で関連性の高いアイテム（例：It (2017)）を推薦しながら、文脈に即した情報豊富な応答を生成できることを示した。
• アブレーションスタディにより、インジェクション損失を削除すると埋め込みのアライメントが悪化し、応答品質が低下することが確認され、その知識統合における役割が裏付けられた。