[論文レビュー] A Unified Multi-task Learning Framework for Multi-goal Conversational Recommender Systems

Yang Deng, Wenxuan Zhang+4 more|arXiv (Cornell University)|Apr 14, 2022

Recommender Systems and Techniques被引用数 9

ひとこと要約

本稿では、プロンプトベース学習を用いて、ゴール計画、トピック予測、アイテム推薦、応答生成を1つのシーケンス・ツー・シーケンス枠組みに統合する統合的マルチタスク学習フレームワーク、UniMINDを提案する。DuRecDialおよびTG-ReDialベンチマークにおいて、4つのタスクすべてで最先端の性能を達成し、マルチゴール対話的推薦システムにおける統合的モデリングとエンド・トゥ・エンド学習の有効性を示している。

ABSTRACT

Recent years witnessed several advances in developing multi-goal conversational recommender systems (MG-CRS) that can proactively attract users' interests and naturally lead user-engaged dialogues with multiple conversational goals and diverse topics. Four tasks are often involved in MG-CRS, including Goal Planning, Topic Prediction, Item Recommendation, and Response Generation. Most existing studies address only some of these tasks. To handle the whole problem of MG-CRS, modularized frameworks are adopted where each task is tackled independently without considering their interdependencies. In this work, we propose a novel Unified MultI-goal conversational recommeNDer system, namely UniMIND. In specific, we unify these four tasks with different formulations into the same sequence-to-sequence (Seq2Seq) paradigm. Prompt-based learning strategies are investigated to endow the unified model with the capability of multi-task learning. Finally, the overall learning and inference procedure consists of three stages, including multi-task learning, prompt-based tuning, and inference. Experimental results on two MG-CRS benchmarks (DuRecDial and TG-ReDial) show that UniMIND achieves state-of-the-art performance on all tasks with a unified model. Extensive analyses and discussions are provided for shedding some new perspectives for MG-CRS.

研究の動機と目的

• マルチゴール対話的推薦システム（MG-CRS）におけるモジュール型でタスク特化されたモデルの限界、すなわちタスク間依存関係をモデル化できないこと、および手動でのタスク調整を要することを解決すること。
• ゴール計画、トピック予測、アイテム推薦、応答生成という4つの核心的MG-CRSタスクを、1つのエンド・トゥ・エンドのシーケンス・ツー・シーケンス学習フレームワークに統合すること。
• 事前に定義されたゴールシーケンスやトピックスレッドに依存せずに、さまざまな対話タイプ（例：雑談、QA、推薦）における統合的学習と推論を可能にすること。
• 分類、順位付け、生成という異なるタスク定式化を統一されたパラダイムに統合するプロンプトベース学習の実現可能性と有効性を調査すること。

提案手法

• UniMINDは、4つのMG-CRSタスクをすべて統一されたシーケンス・ツー・シーケンス（Seq2Seq）生成フレームワークに再定式化し、各タスクをテキスト・ツー・テキスト予測問題として表現する。
• タスク固有のプロンプトテンプレートを用いて、モデルが異なるタスクの出力を生成するのをガイドするプロンプトベース学習戦略を採用し、1つのモデル内でマルチタスク学習を実現する。
• 訓練パイプラインは3段階からなる：マルチタスク事前学習、プロンプトベース微調整、推論。すべてのタスクでパラメータを共有する。
• モデルは、例えばBARTのような事前学習言語モデルをバックボーンとして用い、タスク固有のプロンプト埋め込みを組み込んで生成プロセスを条件づける。
• 共有表現と統合最適化を通じて、カスケードアーキテクチャと比較して誤差伝搬を低減する形で、タスク間依存関係を暗黙的に捉える。
• 未学習タスクや低リソース環境に対して、異なるプロンプトテンプレートを再利用することで、ゼロショットおよびフェイワショット適応が可能になる。

実験結果

リサーチクエスチョン

• RQ1 統合的シーケンス・ツー・シーケンスフレームワークは、マルチゴール対話的推薦システムにおける4つの相互依存的タスクを効果的にモデル化できるか？
• RQ2 プロンプトベース学習は、分類、順位付け、生成という異種のタスクタイプを統一された1つのモデル内でどのようにマルチタスク学習を可能にするか？
• RQ3 統合的学習は、独立的またはモジュール型アプローチと比較して、4つのタスクすべてのパフォーマンスをどの程度向上させるか？
• RQ4 実際の対話において、事前に定義されたゴールシーケンスやトピックスレッドが存在しない状況でも、統合フレームワークはどのように対処するか？
• RQ5 特に誤差伝搬と推薦スパarsityの観点から、統合的アプローチの失敗モードや限界は何か？

主な発見

• UniMINDは、DuRecDialおよびTG-ReDialという2つの主要なMG-CRSベンチマークにおいて、ゴール計画、トピック予測、アイテム推薦、応答生成の4つのタスクすべてで最先端のパフォーマンスを達成した。
• TG-ReDialデータセットでは、トピック予測で87.20%のExact Matchスコア、アイテム推薦で80.17%、応答生成で15.44%を達成し、順次的タスクにおける高い誤差伝搬にもかかわらず強力な性能を示した。
• DuRecDialデータセットでは、トピック予測が92.32%、アイテム推薦が89.16%を達成し、このベンチマークではより優れた一般化性能と耐障害性を示した。
• ケーススタディでは、ユニオンやBARTといったベースラインと比較して、特に雑談やマルチトピック状況において、より文脈的に整合性があり、ゴールに適した応答を生成できることを示した。
• 誤差分析から、推薦パフォーマンスはユーザー・アイテム相互作用のスパarsityに制限されていることが判明し、オープンドメイン対話データでの微調整により応答の情報量を向上させられる可能性がある。
• プロンプト工学を用いることで、フェイワショットおよびゼロショット適応の可能性を示しており、低リソース環境へのスケーラビリティが期待される。