[論文レビュー] User Memory Reasoning for Conversational Recommendation

Hu Xu, Seungwhan Moon+5 more|arXiv (Cornell University)|May 30, 2020

Topic Modeling参考文献 26被引用数 6

ひとこと要約

本稿では、会話型推薦のためのユーザー記憶グラフ（UMG）フレームワークを提案する。このフレームワークは、オフラインでのユーザーの好みとオンラインでの対話行動を、構造的な知識グラフに動的に統合する。提案されたUMGRモデルは、このグラフ上でゼロショット推論を実行し、パーソナライズドな対話ポリシーと推薦を生成する。グラフ構造を保持することで、説明可能で適応性のある推薦を実現し、オフラインおよびオンラインの両方の評価で優れた性能を達成している。

ABSTRACT

We study a conversational recommendation model which dynamically manages users' past (offline) preferences and current (online) requests through a structured and cumulative user memory knowledge graph, to allow for natural interactions and accurate recommendations. For this study, we create a new Memory Graph (MG) Conversational Recommendation parallel corpus called MGConvRex with 7K+ human-to-human role-playing dialogs, grounded on a large-scale user memory bootstrapped from real-world user scenarios. MGConvRex captures human-level reasoning over user memory and has disjoint training/testing sets of users for zero-shot (cold-start) reasoning for recommendation. We propose a simple yet expandable formulation for constructing and updating the MG, and a reasoning model that predicts optimal dialog policies and recommendation items in unconstrained graph space. The prediction of our proposed model inherits the graph structure, providing a natural way to explain the model's recommendation. Experiments are conducted for both offline metrics and online simulation, showing competitive results.

研究の動機と目的

• 既存の会話型推薦システムが、ユーザーの長期的好みと進化する対話文脈を維持・推論できないという限界を是正すること。
• ユーザー／アイテムの知識を推論モデルから分離することで、未観測のユーザーおよびアイテムに対してもゼロショット（コールドスタート）推論を可能にすること。
• アクションを柔軟で構造的なユーザー記憶グラフに根拠を置くことで、オープンボリューム、制約のない対話ポリシー生成を可能にすること。
• 人間がアノテートした、記憶に根拠を持つ対話文脈を反映した、実際のユーザー行動と推論を反映する新しいベンチマークデータセットMGConvRexを構築すること。
• ユーザーおよびアイテムの知識のグラフ構造を継承することで、自然に推薦の説明を可能にするモデルを開発すること。

提案手法

• オフラインでのユーザー履歴、候補アイテム、およびその属性を統合し、(エンティティ, 関係, エンティティ)の三元組として構成される異種知識グラフとしてユーザー記憶グラフ（MG）を構築する。
• 対話の各ターンにおいて、新しいユーザーの好みやシステムの行動を新たな三元組として追加することで、MGを動的に更新する。
• 進化するMG上でエンドツーエンドの推論を実行し、対話ポリシーとアイテム推薦を予測する、グラフベースのニューラルネットワークであるUMGRモデルを提案する。
• 構造を保持する設計を施し、ポリシー出力（例：推薦）がグラフのトポロジーを介して直接解釈可能であることを保証する。
• 対話履歴とユーザー記憶グラフを符号化するデュアルエンコーダアーキテクチャを設計し、オンラインおよびオフラインの両方の知識を統合的に推論可能にする。
• MGConvRexデータセットからの監視情報を用いて、ポリシー予測とアイテムランク付けの目的関数を組み合わせてモデルを学習する。

実験結果

リサーチクエスチョン

• RQ1 ユーザー記憶グラフは、会話型推薦において、オフラインでの好みとオンラインでの対話行動の両方を動的に推論するのに効果的か？
• RQ2 ユーザーおよびアイテムが未観測の場合、ユーザーおよびアイテムに依存しない学習を経て、どの程度一般化できるか（ゼロショット推論）？
• RQ3 構造的で進化するユーザー記憶グラフを組み込むことで、対話ポリシーおよび推薦の正確性と説明可能性はどの程度向上するか？
• RQ4 モデルは、質問の提示と推薦のサイクルを通じて、ユーザー好みの段階的理解を反映した自然で人間らしい対話フローを生成できるか？
• RQ5 記憶に根拠を置かない、構造に配慮しない推論を欠いたベースラインと比較して、モデルの性能はどの程度向上するか？

主な発見

• UMGRモデルは、オフライン指標およびオンラインシミュレーションの両方で競争的な性能を示し、動的推薦シナリオにおける頑健性を確認した。
• アブレーションスタディの結果、対話文脈やユーザー記憶グラフの更新を削除すると性能が著しく低下し、記憶に根拠を置く重要性が裏付けられた。
• ルールベースのエージェントや事前学習済みグラフ埋め込みベースラインと比較して、UMGRは特にパーソナライズドおよびコールドスタートの状況で優れた性能を示した。
• モデルは、新しいユーザー情報が収集されるにつれて、アイテムの重要度スコアを時間経過とともに適切に更新することが学習された。
• 可視化の結果、モデルが進化するユーザー好みに応じてアイテムを動的に再ランク付けしていることが確認され、自然な推論の進行を反映していた。
• 提案されたMGConvRexデータセットにより、トレーニングとテストのユーザーが不一致であるため、ゼロショット推論が可能であり、モデルの一般化能力が検証された。