[论文解读] Autoregressive Entity Generation for End-to-End Task-Oriented Dialog

Guanhuan Huang, Xiaojun Quan+1 more|arXiv (Cornell University)|Sep 19, 2022

Topic Modeling被引用 4

一句话总结

本文提出了一种端到端的任务导向对话系统，该系统首先基于知识库自回归地生成实体，然后生成响应，采用字典树约束确保实体一致性，并采用logit拼接策略实现端到端训练。在MultiWOZ 2.1和CAMREST上的实验表明，该方法在响应质量和实体一致性方面显著优于GPT-KE等强基线模型。

ABSTRACT

Task-oriented dialog (TOD) systems often require interaction with an external knowledge base to retrieve necessary entity (e.g., restaurant) information to support the response generation. Most current end-to-end TOD systems either retrieve the KB information explicitly or embed it into model parameters for implicit access.~While the former approach demands scanning the KB at each turn of response generation, which is inefficient when the KB scales up, the latter approach shows higher flexibility and efficiency. In either approach, the systems may generate a response with conflicting entity information. To address this issue, we propose to generate the entity autoregressively first and leverage it to guide the response generation in an end-to-end system. To ensure entity consistency, we impose a trie constraint on entity generation. We also introduce a logit concatenation strategy to facilitate gradient backpropagation for end-to-end training. Experiments on MultiWOZ 2.1 single and CAMREST show that our system can generate more high-quality and entity-consistent responses.

研究动机与目标

• 解决端到端任务导向对话系统中的实体不一致问题，即模型生成冲突或错误的实体信息。
• 通过数据增强将知识库信息编码到模型参数中，消除推理阶段对外部知识库的依赖。
• 通过先生成目标实体再将其作为输入用于响应生成，从而提升响应质量和实体一致性。
• 通过一种新颖的logit拼接策略，实现尽管实体标记为整数编码（不可微分）也能进行端到端训练。
• 通过在解码过程中强制执行字典树约束，确保生成的实体为知识库中的有效条目。

提出的方法

• 通过在对话上下文中插入知识库条目来增强训练数据，将知识嵌入模型参数中，且不随知识库规模增长而扩展。
• 使用自回归解码器首先基于对话上下文和用户话语生成实体标记序列。
• 在解码过程中强制执行字典树约束，过滤掉无效的实体标记，确保仅生成知识库中的有效条目。
• 引入logit拼接机制，将对话上下文、用户话语和已生成实体的logit向量进行拼接，以支持梯度反向传播。
• 使用最终响应生成的交叉熵损失对整个系统进行端到端训练，其中生成的实体作为输入标记序列。
• 选择性地应用停止梯度操作，以在训练期间隔离实体生成路径，同时保持对实体生成器的梯度流动。

实验结果

研究问题

• RQ1 自回归实体生成是否能提升端到端任务导向对话系统中的实体一致性？
• RQ2 在解码过程中强制执行字典树约束如何影响生成实体的有效性和一致性？
• RQ3 logit拼接在端到端训练设置中，多大程度上能实现对实体生成模块的有效反向传播？
• RQ4 训练阶段（使用LogitConcat）与推理阶段（无LogitConcat）之间的差异对模型性能和实体一致性有何影响？
• RQ5 用于知识库增强的模板数量如何影响下游指标上的模型性能？

主要发现

• 所提出的ECO系统在MultiWOZ 2.1和CAMREST上显著优于GPT-KE这一强基线模型，尤其在实体一致性和成功率达到方面表现突出。
• 与不使用logit拼接的变体相比，ECO在Inform得分上提升了5.31，Success率提升了4.87，证明了其在端到端训练中的有效性。
• 移除字典树约束后，Inform得分下降2.95，Success率下降3.25，Consistency下降0.53，证实其在保证实体有效性方面具有关键作用。
• 仅使用原始训练集（ECO w/ tr）相比完整训练，Inform得分下降16.08，Success率下降20.5，表明使用带实体标签的增强数据至关重要。
• 在推理阶段应用LogitConcat（ECO w/ LogitEval）导致性能显著下降，表明其破坏了概率分布并损害了实体一致性。
• 使用更多模板进行知识库嵌入可提升性能，尽管在100至400个模板之间存在波动，表明收益递减且对模板选择敏感。