[论文解读] Non-Autoregressive Neural Dialogue Generation

Qinghong Han, Yuxian Meng+2 more|arXiv (Cornell University)|Feb 11, 2020

Topic Modeling参考文献 61被引用 11

一句话总结

本文提出一种非自回归（non-AR）神经对话生成模型，通过引入最大互信息（MMI）来解决自回归（AR）解码中的非全局最优性问题。通过独立生成每个标记，模型在生成每个标记后立即计算后向概率 $p(x|y)$，从而实现全局优化。实验表明，该方法生成的回复更具多样性、连贯性与内容丰富性，在BLEU分数和人工评估中显著优于基于AR的MMI模型。

ABSTRACT

Maximum Mutual information (MMI), which models the bidirectional dependency between responses ($y$) and contexts ($x$), i.e., the forward probability $\log p(y|x)$ and the backward probability $\log p(x|y)$, has been widely used as the objective in the \sts model to address the dull-response issue in open-domain dialog generation. Unfortunately, under the framework of the \sts model, direct decoding from $\log p(y|x) + \log p(x|y)$ is infeasible since the second part (i.e., $p(x|y)$) requires the completion of target generation before it can be computed, and the search space for $y$ is enormous. Empirically, an N-best list is first generated given $p(y|x)$, and $p(x|y)$ is then used to rerank the N-best list, which inevitably results in non-globally-optimal solutions. In this paper, we propose to use non-autoregressive (non-AR) generation model to address this non-global optimality issue. Since target tokens are generated independently in non-AR generation, $p(x|y)$ for each target word can be computed as soon as it's generated, and does not have to wait for the completion of the whole sequence. This naturally resolves the non-global optimal issue in decoding. Experimental results demonstrate that the proposed non-AR strategy produces more diverse, coherent, and appropriate responses, yielding substantive gains in BLEU scores and in human evaluations.

研究动机与目标

• 解决在对话生成中使用最大互信息（MMI）时，自回归（AR）解码存在的非全局最优性问题。
• 通过在生成每个标记时实时计算 $p(x|y)$，实现MMI目标的全局优化，避免依赖完整序列生成完成。
• 提升开放域对话系统中回复的多样性、连贯性与内容丰富性。
• 在对话生成与机器翻译任务上，评估非自回归生成结合MMI的有效性。

提出的方法

• 采用非自回归（non-AR）生成框架，使目标标记独立生成，从而在每个标记生成后立即计算 $p(x|y)$。
• 将MMI目标 $\log p(y|x) + \log p(x|y)$ 整合进非自回归解码过程，通过在每个标记生成时评估 $p(x|y)$ 实现全局优化。
• 使用基于Transformer主干网络的序列到序列模型，用于上下文编码与响应生成。
• 应用知识蒸馏以提升非自回归生成中的训练稳定性和性能。
• 通过逐标记增量计算MMI得分进行解码，避免束搜索的局限性，实现多样化输出生成。
• 在OpenSubtitles数据集上评估对话生成性能，在WMT14/16基准上评估机器翻译性能。

实验结果

研究问题

• RQ1 非自回归生成能否解决自回归MMI解码中固有的非全局最优性问题？
• RQ2 在逐标记增量生成过程中集成 $p(x|y)$ 计算，是否能生成更具多样性与连贯性的回复？
• RQ3 与基于AR的MMI模型及多样化解码策略相比，非自回归+MMI在回复质量与BLEU分数上的表现如何？
• RQ4 所提方法是否可泛化至对话生成以外的其他序列到序列任务，如机器翻译？

主要发现

• 非自回归+MMI模型在内容丰富性上的人工评估得分为55.3%，显著优于AR+MMI（43.2%）与AR+MMI+RL（48.7%）。
• 人工评估显示，非自回归+MMI在连贯性与内容丰富性上均显著优于AR+MMI，两项指标的p值均小于0.01。
• 在WMT14 En→De翻译任务中，非自回归+MMI达到23.80 BLEU，较基线非自回归模型（22.32）提升+1.48。
• 非自回归+MMI模型生成的回复更具多样性，表现为AR+MMI输出中常见前缀如'I'的重复减少。
• 与AR+MMI及AR+MMI+RL相比，该模型在内容丰富性（p < 0.01）与连贯性（p < 0.01）上均表现出统计显著提升。
• 非自回归+MMI模型在OpenSubtitles对话数据集上达到44.6 BLEU，显著优于AR+MMI（30.6）与AR模型（38.2）的人工评估指标。