[論文レビュー] Generating Personalized Dialogue via Multi-Task Meta-Learning

Jing Yang Lee, Kong Aik Lee+1 more|DR-NTU (Nanyang Technological University)|Aug 7, 2021

Topic Modeling参考文献 34被引用数 4

ひとこと要約

本稿では、マルチタスクメタラーニング（MTML）および交替的マルチタスクメタラーニング（AMTML）を提案する。これらのフレームワークは、メタラーニング中にパーソナ再構築タスクを用いることで、会話文脈からのパーソナ特徴の推論のみに依存して、パーソナに特化した会話生成を向上させる。主な貢献は、推論時に事前定義されたパーソナ文書を必要とせず、生成応答におけるパーソナの一貫性を向上させることであり、PersonaChatベンチマークで先行手法を上回る性能を示した。

ABSTRACT

Conventional approaches to personalized dialogue generation typically require a large corpus, as well as predefined persona information. However, in a real-world setting, neither a large corpus of training data nor persona information are readily available. To address these practical limitations, we propose a novel multi-task meta-learning approach which involves training a model to adapt to new personas without relying on a large corpus, or on any predefined persona information. Instead, the model is tasked with generating personalized responses based on only the dialogue context. Unlike prior work, our approach leverages on the provided persona information only during training via the introduction of an auxiliary persona reconstruction task. In this paper, we introduce 2 frameworks that adopt the proposed multi-task meta-learning approach: the Multi-Task Meta-Learning (MTML) framework, and the Alternating Multi-Task Meta-Learning (AMTML) framework. Experimental results show that utilizing MTML and AMTML results in dialogue responses with greater persona consistency.

研究の動機と目的

• 実世界のパーソナライズド会話システムにおいて、大規模なパーソナ固有のデータセットや事前定義されたパーソナ文書を必要とするという実用的制限に対処すること。
• 推論時に明示的なパーソナアノテーションに依存せずに、未確認のパーソナに迅速に適応できること。
• メタラーニング中にパーソナ再構築タスクを活用することで、生成応答におけるパーソナの一貫性を向上させること。
• パーソナ再構築を伴うマルチタスクメタラーニングが、会話文脈からパーソナリティを推論・反映するモデルの能力を向上させるかどうかを検討すること。

提案手法

• MTMLフレームワークは、メタラーニング中に応答生成損失とパーソナ再構築損失を1つの重み付き目的関数に統合する。
• AMTMLフレームワークは、トレーニングの反復ごとに応答生成損失とパーソナ再構築損失を交互に最適化する。
• パーソナ再構築は、メタラーニング中に補助タスクとして実施され、モデルが会話文脈から完全なパーソナ文書を生成する。
• モデルは、MAMLにインspiredされたメタラーニングパラダイムを用いてトレーニングされ、少数の例での新しいパーソナに迅速に適応可能になる。
• 推論時には会話文脈のみが使用され、テスト時にパーソナ文書は提供されない。
• 本アプローチは、メタラーニングによる微調整を経た事前学習言語モデルを活用し、未確認のパーソナへの一般化を向上させる。

実験結果

リサーチクエスチョン

• RQ1 推論時に事前定義されたパーソナ文書にアクセスできない状況下でも、会話モデルはパーソナに一貫性のある応答を生成できるか？
• RQ2 メタラーニング中にパーソナ再構築タスクを導入することで、会話文脈からパーソナリティを推論・反映するモデルの能力が向上するか？
• RQ3 パーソナ再構築を伴うマルチタスクメタラーニングは、標準的なメタラーニングベースラインと比較して、パーソナの一貫性においてどのように異なるか？
• RQ4 応答生成とパーソナ再構築の最適化を交互に行うか、同時に行うかの違いが、モデルの性能にどのような影響を与えるか？
• RQ5 短い会話文脈から正確なパーソナ文書を再構築できるか？また、文脈長さが再構築品質に与える影響は何か？

主な発見

• 10ショット設定において、MTMLおよびAMTMLはP²Botを上回り、生成応答におけるパーソナの一貫性が向上していることを示した。
• PAMLやP²Botですらパーソナ文書を推論時に使用しない状況でも、MTMLおよびAMTMLフレームワークは顕著に高いパーソナ一貫性を達成した。
• メタラーニング中のパーソナ再構築タスクにより、モデルは会話文脈からのパーソナ情報推論をより効果的に学習できた。
• より長い会話文脈は、より優れたパーソナ再構築パフォーマンスをもたらし、適切な文脈的手がかりが正確な推論に不可欠であることを示している。
• パーソナ一貫性が向上した一方で、流暢さと一貫性はP²Botに劣っていたため、パーソナ忠実度と応答品質の間にはトレードオフがあると考えられる。
• 結果から、パーソナ再構築を伴うマルチタスクメタラーニングは、ゼロショットパーソナライズド会話生成のための実用的で効果的なアプローチであると示唆された。