[论文解读] A Pre-training Based Personalized Dialogue Generation Model with Persona-sparse Data

Yinhe Zheng, Rongsheng Zhang+2 more|arXiv (Cornell University)|Nov 12, 2019

Topic Modeling参考文献 28被引用 19

一句话总结

本文提出了一种基于预训练的对话生成模型，通过在编码器中整合人物属性嵌入，并在解码器中采用动态注意力路由机制，有效利用现实中常见的、人物信息稀疏的对话数据——即人物信息很少被提及的对话。该模型在人物一致性与连贯性方面达到当前最优性能，甚至在某些评估中优于人类生成的回复。

ABSTRACT

Endowing dialogue systems with personas is essential to deliver more human-like conversations. However, this problem is still far from well explored due to the difficulties of both embodying personalities in natural languages and the persona sparsity issue observed in most dialogue corpora. This paper proposes a pre-training based personalized dialogue model that can generate coherent responses using persona-sparse dialogue data. In this method, a pre-trained language model is used to initialize an encoder and decoder, and personal attribute embeddings are devised to model richer dialogue contexts by encoding speakers' personas together with dialogue histories. Further, to incorporate the target persona in the decoding process and to balance its contribution, an attention routing structure is devised in the decoder to merge features extracted from the target persona and dialogue contexts using dynamically predicted weights. Our model can utilize persona-sparse dialogues in a unified manner during the training process, and can also control the amount of persona-related features to exhibit during the inference process. Both automatic and manual evaluation demonstrates that the proposed model outperforms state-of-the-art methods for generating more coherent and persona consistent responses with persona-sparse data.

研究动机与目标

• 解决在真实世界中人物信息稀疏的对话数据（人物信息很少被提及）上训练个性化对话系统所面临的挑战。
• 通过设计一种能泛化到稀疏、真实对话模式的方法，克服现有模型因过度拟合于人物信息密集的众包数据集而产生的局限性。
• 通过在解码过程中动态加权人物特征，实现在推理阶段对人物相关内容的可控生成。
• 在人物信息频率较低的设置下，提升自动评估与人工评估中对连贯性与人物一致性的指标表现。

提出的方法

• 模型使用预训练语言模型（如 T5 或类似模型）初始化编码器与解码器，从而为对话生成提供强大的初始表征。
• 在编码器中引入属性嵌入，将说话人人物信息与对话历史一同编码，通过人物感知特征增强上下文建模。
• 在解码器中引入动态注意力路由机制，通过可学习权重平衡三种特征源的贡献：目标人物信息、对话历史和已生成的标记。
• 动态权重预测器计算每条注意力路径的路由权重，使模型能够根据上下文在推理过程中调节人物信息的影响。
• 模型在人物信息稀疏的数据上进行端到端微调，实现统一训练，无需依赖人物信息密集的数据。
• 推理过程支持通过超参数 α 控制，该参数调节人物特征的贡献程度，从而实现零、部分或完全的人物信息暴露。

实验结果

研究问题

• RQ1 当在真实世界中人物信息稀疏的对话数据上微调时，基于预训练的对话模型能否有效学习生成与人物一致的回复？
• RQ2 在解码过程中，如何动态平衡人物特征的贡献，以避免人物信息的过度或不足使用？
• RQ3 与固定权重或仅注意力机制的基线相比，所提出的注意力路由机制是否能同时提升回复的流畅性与人物一致性？
• RQ4 该模型能否在人物信息极少被提及的真实对话模式中实现泛化，而不会过度拟合于人物信息密集的数据分布？

主要发现

• 在随机和有偏测试集上，该模型在人物一致性方面显著优于所有基线模型，尤其在有偏测试集上的人工评估中，得分达 1.248（第二名基线为 1.198）。
• 当采用完全人物控制（α = 1）时，该模型在随机测试集上的人物一致性高于人类生成的回复，表明其人物信息整合能力更优。
• 该模型保持了出色的流畅性与连贯性，自动评估中 ROUGE-L 得分为 1.912，优于次优基线（1.875），并接近人类水平表现（1.928）。
• 动态加权机制有效平衡了人物一致性与回复流畅性，缓解了基线模型中高人物一致性导致流畅性下降的权衡问题。
• 当 α = 0（无人物信息）时，模型生成的回复人物相关性较低，但仍保持流畅且与上下文一致，体现了控制机制的灵活性。
• 即使在噪声较大、人物信息密集的数据（如 TTransfo+P）上进行微调，该模型仍优于这些基线，验证了动态注意力路由机制的鲁棒性。