[论文解读] Generating Personalized Dialogue via Multi-Task Meta-Learning

Jing Yang Lee, Kong Aik Lee+1 more|DR-NTU (Nanyang Technological University)|Aug 7, 2021

Topic Modeling参考文献 34被引用 4

一句话总结

本文提出多任务元学习（MTML）与交替多任务元学习（AMTML）框架，通过在元学习过程中引入人格重建任务，使模型仅从对话上下文中推断人格特征，从而提升个性化对话生成中的人格一致性。关键贡献在于无需在推理阶段提供预定义的人格陈述，即可实现更优的人格一致性表现，在PersonaChat基准测试中优于先前方法。

ABSTRACT

Conventional approaches to personalized dialogue generation typically require a large corpus, as well as predefined persona information. However, in a real-world setting, neither a large corpus of training data nor persona information are readily available. To address these practical limitations, we propose a novel multi-task meta-learning approach which involves training a model to adapt to new personas without relying on a large corpus, or on any predefined persona information. Instead, the model is tasked with generating personalized responses based on only the dialogue context. Unlike prior work, our approach leverages on the provided persona information only during training via the introduction of an auxiliary persona reconstruction task. In this paper, we introduce 2 frameworks that adopt the proposed multi-task meta-learning approach: the Multi-Task Meta-Learning (MTML) framework, and the Alternating Multi-Task Meta-Learning (AMTML) framework. Experimental results show that utilizing MTML and AMTML results in dialogue responses with greater persona consistency.

研究动机与目标

• 解决现实个性化对话系统中依赖大规模人格专用数据集和预定义人格陈述的实际限制。
• 实现在无显式人格标注的情况下，快速适应未见过的人格。
• 通过在元学习过程中引入人格重建任务，提升生成回复中的人格一致性。
• 探究在元学习中引入人格重建任务是否能增强模型从对话上下文中推断并反映个性特征的能力。

提出的方法

• MTML框架在元学习过程中将响应生成损失与人格重建损失合并为单一加权目标。
• AMTML框架在训练迭代中交替优化响应生成与人格重建损失。
• 人格重建作为元学习期间的辅助任务，模型从对话上下文生成完整的人格陈述。
• 模型采用受MAML启发的元学习范式进行训练，实现仅用少量样本即可快速适应新人格。
• 推理过程中仅使用对话上下文；测试时未提供或使用人格陈述。
• 该方法利用经过元学习微调的预训练语言模型，以提升对未见人格的泛化能力。

实验结果

研究问题

• RQ1 对话模型是否能在推理阶段无法访问预定义人格陈述的情况下，仍能生成与人格一致的回复？
• RQ2 在元学习过程中引入人格重建任务，是否能提升模型从对话上下文中推断并反映个性特征的能力？
• RQ3 与标准元学习基线相比，采用人格重建的多任务元学习在人格一致性方面表现如何？
• RQ4 响应生成与人格重建损失的交替优化与联合优化相比，对模型性能有何影响？
• RQ5 模型能否从简短的对话上下文中重建准确的人格陈述？上下文长度如何影响重建质量？

主要发现

• 在10-shot设置下，MTML与AMTML在人格一致性方面均优于P²Bot，表明其在生成回复中反映人格特征的能力得到提升。
• 即使在推理阶段未使用人格陈述，MTML与AMTML框架生成的回复在人格一致性方面显著优于PAML与P²Bot。
• 元学习期间的人格重建任务有助于模型更有效地从对话上下文中推断人格信息。
• 更长的对话上下文带来更好的人格重建表现，表明充足的上下文线索对准确推断至关重要。
• 尽管人格一致性有所提升，但流畅性与连贯性仍逊于P²Bot，表明人格保真度与回复质量之间存在权衡。
• 结果表明，结合人格重建的多任务元学习是实现零样本个性化对话生成的一种可行且有效的方法。