[论文解读] A Hierarchical Latent Variable Encoder-Decoder Model for Generating Dialogues

Iulian Vlad Serban, Alessandro Sordoni+5 more|arXiv (Cornell University)|May 19, 2016

Topic Modeling被引用 6

一句话总结

该论文提出了一种分层变分潜在变量编码器-解码器（VHRED）模型，在话语层级引入随机潜在变量，以提升对话回复生成质量。通过建模话题、说话人意图等高层级可变性，VHRED在人类评估和自动指标上均表现出更高的熵值与回复质量，生成的回复更具多样性、上下文连贯性更强且更长，优于先前模型。

ABSTRACT

Sequential data often possesses a hierarchical structure with complex dependencies between subsequences, such as found between the utterances in a dialogue. In an effort to model this kind of generative process, we propose a neural network-based generative architecture, with latent stochastic variables that span a variable number of time steps. We apply the proposed model to the task of dialogue response generation and compare it with recent neural network architectures. We evaluate the model performance through automatic evaluation metrics and by carrying out a human evaluation. The experiments demonstrate that our model improves upon recently proposed models and that the latent variables facilitate the generation of long outputs and maintain the context.

研究动机与目标

• 解决自回归RNN在生成具有长距离依赖关系的多样化、上下文连贯对话回复时的局限性。
• 通过在话语层级而非词层级引入随机潜在变量，建模对话中的分层可变性（如话题、说话人意图、风格）。
• 通过允许模型生成更长、更多样化的语句，同时保持对话连贯性，提升回复质量和信息量。
• 证明变分推断结合分层潜在变量可超越标准自编码目标，在条件对话生成任务中实现更优生成效果。

提出的方法

• 模型采用包含三个RNN组件的分层架构：话语层级编码器RNN、处理编码话语的上下文RNN，以及同时依赖上下文和随机潜在变量的解码器RNN。
• 在话语层级引入随机潜在变量，从基于所有前序话语的变分后验分布中采样，以建模高层级对话结构。
• 通过变分推断进行训练，以最大化对话对数似然的下界，支持通过随机路径进行反向传播的端到端优化。
• 潜在变量在整个回复生成过程中共享，使模型能够保持上下文连贯性，生成多轮对话。
• 解码器RNN同时依赖上下文RNN的隐藏状态和采样的潜在变量，实现对生成过程的确定性与随机性双重控制。
• 该模型在Ubuntu和Twitter数据集上应用于对话回复生成，通过人工标注与自动指标（如BLEU、熵值、回复长度）进行评估。

实验结果

研究问题

• RQ1 与自回归RNN相比，在话语层级引入随机潜在变量是否能提升生成对话回复的多样性与连贯性？
• RQ2 通过潜在变量建模高层级可变性（如话题、意图）是否能生成更长、更具信息量的回复？
• RQ3 潜在变量的分层结构在多轮对话中对维持对话上下文连贯性方面有何影响？
• RQ4 变分推断框架能否有效适配于对话等条件序列生成任务，而不仅限于自编码任务？
• RQ5 与HRED和LSTM基线相比，潜在变量在自动指标与人类评估中的表现提升程度如何？

主要发现

• 在Twitter数据集上，VHRED在人类评估中得分最高（20分制得18.30分），显著优于HRED（12.29分）与LSTM（9.22分），表明其回复质量更优。
• 在Ubuntu数据集上，VHRED的人类评估得分为20.57分，超过HRED（11.05分）与LSTM（9.22分），表明其在不同领域中均具有一致性改进。
• 在Twitter数据集上，VHRED的每词熵值比HRED高出6比特，表明其信息含量更高、多样性更强。
• VHRED的平均回复长度长于HRED与LSTM，尤其在Twitter数据集上表现更优，表明其具备更强的信息生成能力。
• 在Twitter数据集上，VHRED的BLEU-4得分为84.56分，优于HRED（83.16分）与LSTM（71.00分），证实其流畅性与n-gram对齐性更优。
• 人工评估显示，VHRED的回复被认为更具相关性且上下文关联更紧密，较少出现‘OK’或‘我不知道’等通用回应。