[论文解读] CREDIT: Coarse-to-Fine Sequence Generation for Dialogue State Tracking

Zhi Chen, Lu Chen+4 more|arXiv (Cornell University)|Sep 22, 2020

Topic Modeling参考文献 31被引用 11

一句话总结

CREDIT 提出了一种用于对话状态追踪的粗粒度到细粒度序列生成框架，将对话状态建模为领域-槽-值三元组的结构化序列。通过先预测一个粗粒度的状态草图（领域-槽对），再利用复制机制进行细化，CREDIT 实现了一步生成，具有 O(1) 的推理复杂度，并通过强化学习微调提升了联合目标准确率，在 MultiWOZ 2.0 和 2.1 上优于所有不使用 BERT 的方法。

ABSTRACT

In dialogue systems, a dialogue state tracker aims to accurately find a compact representation of the current dialogue status, based on the entire dialogue history. While previous approaches often define dialogue states as a combination of separate triples ({\em domain-slot-value}), in this paper, we employ a structured state representation and cast dialogue state tracking as a sequence generation problem. Based on this new formulation, we propose a {\bf C}oa{\bf R}s{\bf E}-to-fine {\bf DI}alogue state {\bf T}racking ({\bf CREDIT}) approach. Taking advantage of the structured state representation, which is a marked language sequence, we can further fine-tune the pre-trained model (by supervised learning) by optimizing natural language metrics with the policy gradient method. Like all generative state tracking methods, CREDIT does not rely on pre-defined dialogue ontology enumerating all possible slot values. Experiments demonstrate our tracker achieves encouraging joint goal accuracy for the five domains in MultiWOZ 2.0 and MultiWOZ 2.1 datasets.

研究动机与目标

• 为解决对话状态追踪中逐槽生成的局限性，该方法可降低随槽数量增加而带来的推理复杂度。
• 通过端到端生成未见槽值，消除对预定义知识库的依赖。
• 通过使用强化学习直接优化 DST 评估指标，提升联合目标准确率。
• 设计一种一步生成模型，实现 O(1) 的推理时间复杂度，避免逐个遍历槽的处理方式。
• 展示在多领域对话系统中，结合结构化状态表示的粗粒度到细粒度解码策略的有效性。

提出的方法

• CREDIT 采用编码器-解码器架构，利用领域-槽-值三元组将对话历史映射为结构化状态序列。
• 模型首先通过粗粒度解码器生成仅包含领域-槽对的粗粒度状态草图，利用对话历史的上下文感知注意力机制。
• 细粒度解码器通过同时关注对话历史和粗粒度草图，利用复制机制从话语中检索值，生成完整的对话状态。
• 细粒度解码器采用两阶段注意力机制：一阶段关注粗粒度草图，另一阶段关注对话历史，实现对值的聚焦生成。
• 模型首先使用交叉熵损失进行预训练，然后通过策略梯度强化学习进行微调，以 BLEU 分数作为奖励，优化联合目标准确率。
• 分层编码器通过分别编码话语再聚合信息来处理对话历史，提升了上下文建模能力。

实验结果

研究问题

• RQ1 粗粒度到细粒度的序列生成方法是否能在保持或提升准确率的同时降低对话状态追踪中的推理复杂度？
• RQ2 作为领域-槽-值三元组序列的结构化状态表示，在捕捉复杂对话状态方面是否有效？
• RQ3 使用自然语言指标（BLEU）的强化学习是否能提升端到端对话状态追踪中的联合目标准确率？
• RQ4 复制机制在处理未见槽值方面是否显著提升性能？
• RQ5 与平面编码相比，分层编码策略在建模多轮对话上下文方面表现如何？

主要发现

• CREDIT 在 MultiWOZ 2.1 上实现了 50.11% 的联合目标准确率，优于所有无 BERT 方法，创下该类别新 SOTA 记录。
• 消融实验表明，若移除粗粒度解码器，性能显著下降（从 50.11% 降至 48.62%），证实其在引导生成中的关键作用。
• 复制机制对性能贡献显著，相比无复制基线，联合目标准确率提升 1.3%。
• 在各组件中，分层编码器带来的性能增益最大，若将其移除，准确率下降 3.3%（降至 46.82%）。
• CREDIT 实现了 O(1) 的推理时间复杂度，即使在包含大量槽的复杂对话中也保持高效。
• 使用 BLEU 作为奖励的强化学习微调优于仅使用监督预训练，证明了基于指标优化的有效性。