[论文解读] TopicRefine: Joint Topic Prediction and Dialogue Response Generation for Multi-turn End-to-End Dialogue System

Hongru Wang, Mingyu Cui+3 more|arXiv (Cornell University)|Sep 11, 2021

Topic Modeling参考文献 43被引用 7

一句话总结

本文提出 TopicRefine，一种联合框架，通过三轮迭代机制在多轮对话中迭代预测话题并优化对话回复。该框架通过联合优化话题预测与回复生成，在 MedDG 和 TG-ReDial 数据集上实现了最先进性能，展示了 GPT-2 在经过适当微调后在话题感知对话中的潜力。

ABSTRACT

A multi-turn dialogue always follows a specific topic thread, and topic shift at the discourse level occurs naturally as the conversation progresses, necessitating the model's ability to capture different topics and generate topic-aware responses. Previous research has either predicted the topic first and then generated the relevant response, or simply applied the attention mechanism to all topics, ignoring the joint distribution of the topic prediction and response generation models and resulting in uncontrollable and unrelated responses. In this paper, we propose a joint framework with a topic refinement mechanism to learn these two tasks simultaneously. Specifically, we design a three-pass iteration mechanism to generate coarse response first, then predict corresponding topics, and finally generate refined response conditioned on predicted topics. Moreover, we utilize GPT2DoubleHeads and BERT for the topic prediction task respectively, aiming to investigate the effects of joint learning and the understanding ability of GPT model. Experimental results demonstrate that our proposed framework achieves new state-of-the-art performance at response generation task and the great potential understanding capability of GPT model.

研究动机与目标

• 为解决多轮端到端对话系统中生成话题感知、连贯且信息丰富的回复的挑战。
• 克服先前方法的局限性，这些方法要么将话题预测与回复生成分开处理，要么依赖对所有话题的注意力机制而未建模联合分布。
• 设计一种三阶段迭代框架，基于预测的话题对回复进行优化，提升回复的相关性与信息量。
• 评估使用 GPT-2 和 BERT 作为主干模型时，话题预测与回复生成之间联合学习的有效性。
• 探究 GPT-2 在话题感知对话生成中相较于 BERT 的理解能力。

提出的方法

• 该框架采用三轮迭代机制：首先从对话历史生成粗略回复，然后利用粗略回复预测话题，最后基于历史和预测话题生成优化后的回复。
• 话题预测使用 GPT2DoubleHeads 或 BERT 执行，实现话题与回复生成的端到端联合学习。
• 模型联合优化三个目标：回复生成、话题预测与优化，强制建立话题与回复生成之间的联合分布。
• 优化步骤将最终回复生成条件化于对话历史上下文与预测的话题向量，提升话题一致性。
• 架构采用自回归语言建模与条件解码，预测的话题在回复生成过程中作为上下文注入。
• 消融实验验证了三轮机制与联合训练目标在提升回复质量与话题相关性方面的有效性。

实验结果

研究问题

• RQ1 联合学习话题预测与回复生成是否能提升多轮对话回复的连贯性与信息量？
• RQ2 三轮迭代优化机制是否优于单阶段或流水线方法，在生成话题感知回复方面表现更优？
• RQ3 GPT-2 在理解与预测对话生成任务中话题方面，相较于 BERT 的表现如何？
• RQ4 与独立或基于注意力的方法相比，话题与回复生成的联合分布在多大程度上提升了模型性能？
• RQ5 话题优化机制是否能减少回复重复，提升开放域对话系统中的流畅性与话题相关性？

主要发现

• 所提出的 TopicRefine 框架在多轮对话回复生成任务中，于 MedDG 与 TG-ReDial 数据集上均达到新的最先进性能。
• Stage-Two (GPT) 模型在自动评估与人工评估中均优于 Stage-One (GPT) 模型与基线模型，尤其在流畅性与信息量方面表现更优。
• 人工评估显示，Stage-Two (GPT) 模型在信息量与流畅性两个指标上得分均高于基线，回复质量显著提升。
• 在 MedDG 数据集上，BERT 的话题预测性能显著优于 GPT-2（F1：20.13 vs. 14.88），表明 BERT 初始理解能力更强。
• 尽管 F1 值较低，GPT-2 在 TG-ReDial 数据集上的 top-3 与 top-5 击中率（Hit@3: 0.7931 vs. 0.8023）与 BERT 相当，表明 GPT-2 经过适当微调后具有未被充分挖掘的潜力。
• 消融实验确认，三轮优化机制显著提升了回复质量，通过实现话题感知的优化，验证了联合学习的有效性。