[論文レビュー] RecInDial: A Unified Framework for Conversational Recommendation with Pretrained Language Models

Lingzhi Wang, Huang Hu+4 more|arXiv (Cornell University)|Oct 14, 2021

Topic Modeling参考文献 57被引用数 9

ひとこと要約

本稿では、語彙ポインタ機構を備えた事前学習言語モデル（PLM）を用いて、アイテム推薦を会話生成に統合する包括的フレームワークであるRecInDialを提案する。知識グラフを強化した埋め込み空間でPLMをファインチューニングし、アイテムに注意を向ける語彙ポインタを導入することで、ReDialベンチマークにおいて、応答の自然さと推薦の正確性の両面で、先行手法を顕著に上回る最先端の性能を達成した。

ABSTRACT

Conversational Recommender System (CRS), which aims to recommend high-quality items to users through interactive conversations, has gained great research interest recently. A CRS is usually composed of a recommendation module and a generation module. In the previous work, these two modules are loosely connected in the model training and are shallowly integrated during inference, where a simple switching or copy mechanism is adopted to incorporate recommended items into generated responses. Moreover, the current end-to-end neural models trained on small crowd-sourcing datasets (e.g., 10K dialogs in the ReDial dataset) tend to overfit and have poor chit-chat ability. In this work, we propose a novel unified framework that integrates recommendation into the dialog (RecInDial) generation by introducing a vocabulary pointer. To tackle the low-resource issue in CRS, we finetune the large-scale pretrained language models to generate fluent and diverse responses, and introduce a knowledge-aware bias learned from an entity-oriented knowledge graph to enhance the recommendation performance. Furthermore, we propose to evaluate the CRS models in an end-to-end manner, which can reflect the overall performance of the entire system rather than the performance of individual modules, compared to the separate evaluations of the two modules used in previous work. Experiments on the benchmark dataset ReDial show our RecInDial model significantly surpasses the state-of-the-art methods. More extensive analyses show the effectiveness of our model.

研究の動機と目的

• 応答生成とアイテム推薦を別々で処理する、かつての会話型推薦システム（CRS）が、分離されたモジュールとして扱うという限界を是正すること。
• ReDial（約10,000件の会話）のような小規模なクラウドソーシングデータセットで訓練されたエンドツーエンドCRSモデルにおける過学習と低品質な雑談の質の問題を克服すること。
• 語彙ポインタ機構を用いて、推薦と生成プロセスを1つの一貫したフレームワークに統合すること。
• 生成と推薦のモジュールを個別に評価するのではなく、全体のシステム性能を反映するエンドツーエンドの評価戦略を採用すること。
• エンティティ指向の知識グラフから学習した知識に配慮した表現を用いることで、推薦品質を向上させること。

提案手法

• ReDialデータセット上で大規模な事前学習言語モデル（例：DialoGPT）をファインチューニングし、自然で多様な会話応答を生成すること。
• 関係性グラフ畳み込みネットワーク（RGCN）を統合して、アイテム指向の知識グラフからノード表現を符号化し、ユーザーの好みモデリングを強化すること。
• PLMの語彙を拡張し、専用のアイテム語彙を追加することで、生成プロセス中に直接推奨アイテムを予測可能にする。
• デコード段階で、標準語彙からの単語生成とアイテム語彙からのアイテム選択の両方を動的に選択する語彙ポインタ機構を導入すること。
• ファインチューニング段階でRGCNで学習したアイテム表現を生成プロセスに組み込むことで、知識に配慮したバイアスを適用し、推薦の関連性を向上させること。
• 最終的に生成された応答に正解の推奨アイテムが含まれているかを確認することで、エンドツーエンドの評価を実施し、実世界の性能を反映すること。

実験結果

リサーチクエスチョン

• RQ1 語彙ポインタ機構を用いて推薦を会話生成に統合する包括的フレームワークは、従来の2段階型または緩い結合型CRSモデルを上回ることができるか？
• RQ2 関係性知識グラフから得た知識に配慮した表現を大規模事前学習言語モデルに組み込むことで、応答品質と推薦正確性の両方がどのように向上するか？
• RQ3 コピーまたはポインタ機構と比較して、語彙ポインタ機構は、生成された応答へのアイテム挿入の整合性と適切さをどの程度向上させるか？
• RQ4 生成モジュールと推薦モジュールを別々に評価するのではなく、エンドツーエンド評価戦略が、実世界のCRS性能をより的確に反映する理由は何か？
• RQ5 データの不均衡とコールドスタート問題は推薦性能にどのような影響を及ぼすか？提案されたモデルはこれらの課題を緩和できるか？

主な発見

• RecInDialはReDialベンチマークにおいて、応答の自然さと推薦正確性の両面で、最先端の手法を顕著に上回り、エンドツーエンド性能に優れた結果を示した。
• 先行手法よりも高いRecall@30およびRecall@50スコアを達成しており、とりわけコールドスタート状況でしばしば予測が不足しがちな低頻度映画の性能向上が顕著に見られた。
• 語彙ポインタ機構により、推薦アイテムの挿入がより一貫性があり、文脈的に適切な形で実現され、『おすすめします』とだけ述べてアイテム名を明示しない失敗を低減した。
• 知識グラフを強化したファインチューニングにより、特に古くまたは人気のない映画のユーザー好みの推論能力が向上し、定性的な例でもその効果が確認された。
• エンドツーエンド評価により、RecInDialは正しく推奨されたアイテムを含むより情報量が多く自然な応答を生成することが判明した。一方、他のモデルは一般的すぎたり、不完全な返答を生成する傾向にあった。
• データの不均衡にもかかわらず、RecInDialはさまざまな映画頻度範囲で比較的安定した性能を示し、会話文脈が深くなるにつれてリCALLスコアが向上する傾向を示したが、5ターンを超えると個人化の要求が高まり、わずかに性能が低下した。