[論文レビュー] C2-CRS: Coarse-to-Fine Contrastive Learning for Conversational Recommender System

Yuanhang Zhou, Kun Zhou+4 more|arXiv (Cornell University)|Jan 4, 2022

Recommender Systems and Techniques被引用数 10

ひとこと要約

C2-CRSは、知識グラフやユーザーレビューなどの複数タイプの外部データを限定的な会話文脈に統合することで、会話型レコメンデーションシステムの性能を向上させる、粗い段階から細かい段階への対照的学習フレームワークを提案する。対照的学習を通じて、異なるデータモダリティ間で粗い粒度と細かい粒度の意味的ユニットを整列させることで、モデルはレコメンデーションの正確性と応答品質の両方を向上させ、2つの公開データセットで最先端の性能を達成した。

ABSTRACT

Conversational recommender systems (CRS) aim to recommend suitable items to users through natural language conversations. For developing effective CRSs, a major technical issue is how to accurately infer user preference from very limited conversation context. To address issue, a promising solution is to incorporate external data for enriching the context information. However, prior studies mainly focus on designing fusion models tailored for some specific type of external data, which is not general to model and utilize multi-type external data. To effectively leverage multi-type external data, we propose a novel coarse-to-fine contrastive learning framework to improve data semantic fusion for CRS. In our approach, we first extract and represent multi-grained semantic units from different data signals, and then align the associated multi-type semantic units in a coarse-to-fine way. To implement this framework, we design both coarse-grained and fine-grained procedures for modeling user preference, where the former focuses on more general, coarse-grained semantic fusion and the latter focuses on more specific, fine-grained semantic fusion. Such an approach can be extended to incorporate more kinds of external data. Extensive experiments on two public CRS datasets have demonstrated the effectiveness of our approach in both recommendation and conversation tasks.

研究の動機と目的

• 会話型レコメンデーションシステム（CRS）における限定的な会話文脈から、ユーザープレファレンスを正確に推論する課題に対処すること。
• 知識グラフやユーザーレビューなどの異種データソース間の意味的ギャップを、効果的なクロスモーダル整列を可能にすることで埋めること。
• タスク固有の統合モデルを必要とせず、多様なタイプの外部データを統合可能な汎用的なフレームワークを開発すること。
• 統一的で多段階の意味的統合を通じて、CRSにおけるレコメンデーションの正確性と応答品質の両方を向上させること。

提案手法

• フレームワークは、会話および外部データソースから多段階の意味的ユニット（例：エンティティ、サブグラフ、語、文）を抽出する。
• 一般レベルの意味的表現（例：アイテムレベルの好みやトピックレベルの要約）を、異なるデータタイプ間で整列させるために、粗い粒度の対照的学習を適用する。
• 個々のエンティティやキーフレーズなどの特定的で詳細な意味的ユニットを、モダリティ間で整列させるために、細かい粒度の対照的学習を用いる。
• 2段階の事前学習戦略を採用する：まず、複数タイプのデータにおける粗い段階から細かい段階への対照的学習を行い、次に、下流のCRSタスクにおけるエンドツーエンドのファインチューニングを行う。
• ファインチューニング中に、応答生成における情報量の多いトークンを優先するためのインスタンスウェイトリング機構を導入する。
• モデルは拡張性を備えており、アーキテクチャの大幅な見直しを伴わずに、追加のデータタイプの統合が可能である。

実験結果

リサーチクエスチョン

• RQ1 統一されたフレームワークは、会話型レコメンデーションシステムにおける複数タイプの外部データ（例：知識グラフやレビュー）を効果的に統合できるか？
• RQ2 直接統合や単一粒度の整列と比較して、粗い段階から細かい段階への対照的学習は、異種のデータ信号間の意味的整列をどのように改善するか？
• RQ3 粗い粒度の意味的統合と細かい粒度の意味的統合の両方が、全体のレコメンデーションおよび応答生成性能に与える寄与度はどの程度か？
• RQ4 本手法は、レコメンデーションおよび対話生成タスクの両面で、既存の最先端モデルと比較して優れているか？

主な発見

• C2-CRSは、KECRSデータセットにおいて、R@1が1.55*、R@10が1.47*という最先端の性能を達成した。
• 粗い段階から細かい段階への対照的学習機構を除去すると、性能低下が最大となり（R@1が1.55*から0.031に低下）、これが中心的な役割を果たしていることを確認した。
• アブレーションスタディの結果、会話履歴、構造化データ（知識グラフ）、非構造化データ（レビュー）のすべてのタイプの外部データが性能向上に顕著に寄与していることが示された。
• C2-CRSは、マルチタスク学習ベースラインを上回っており、すべてのタスクを同時に最適化するのではなく、構造的な粗い段階から細かい段階への対照的学習がより効果的であることが示された。
• 人的評価では、C2-CRSが最も情報量が多く、滑らかな応答を生成しており、両方の指標（文の流れの自然さと情報量）で最高得点を記録した。
• ファインチューニング段階でのインスタンスウェイトリング機構により、情報量の多いトークンに注目することで、応答品質がさらに向上した。