[论文解读] Jointly Optimizing Diversity and Relevance in Neural Response Generation

Xiang Gao, Sung‐Jin Lee+5 more|arXiv (Cornell University)|Feb 28, 2019

Topic Modeling参考文献 19被引用 7

一句话总结

本文提出 SpaceFusion，一种神经响应生成模型，通过新颖的正则化项融合序列到序列（S2S）模型与自编码器（AE）的潜在空间，联合优化响应的多样性与相关性。该方法实现了对相关性（与预测响应的距离）和多样性（与预测响应的方向）的几何控制，在两个基准数据集上均实现了最先进的性能表现。

ABSTRACT

Although recent neural conversation models have shown great potential, they often generate bland and generic responses. While various approaches have been explored to diversify the output of the conversation model, the improvement often comes at the cost of decreased relevance. In this paper, we propose a SpaceFusion model to jointly optimize diversity and relevance that essentially fuses the latent space of a sequence-to-sequence model and that of an autoencoder model by leveraging novel regularization terms. As a result, our approach induces a latent space in which the distance and direction from the predicted response vector roughly match the relevance and diversity, respectively. This property also lends itself well to an intuitive visualization of the latent space. Both automatic and human evaluation results demonstrate that the proposed approach brings significant improvement compared to strong baselines in both diversity and relevance.

研究动机与目标

• 解决神经对话模型中响应多样性与相关性之间的权衡问题。
• 在训练阶段实现多样性与相关性的联合优化，而非在推理阶段进行。
• 构建一个解耦的、结构化的潜在空间，使得从预测响应向量的距离反映相关性，方向反映多样性。
• 通过响应生成的直观几何可视化，提供可解释的潜在空间。
• 在自动评估与人工评估中，于多样性与相关性两个指标上均优于强基线模型。

提出的方法

• SpaceFusion 通过共享相同的解码器网络，融合序列到序列（S2S）模型与自编码器（AE）模型的潜在空间。
• 该模型引入两项新颖的正则化项：插值项，用于确保预测响应与目标响应之间语义过渡的平滑性。
• 融合项用于统一来自两模型的向量分布，防止聚类形成，从而支持均匀采样。
• 融合后的潜在空间允许通过与预测响应向量的距离控制响应相关性，通过方向控制多样性。
• 模型通过端到端训练，同时优化 S2S 与 AE 目标，利用共享解码器与正则化项对齐并结构化潜在空间。
• 该方法支持对潜在空间的直观可视化，其中响应向量按相关性与多样性在空间中有序排列。

实验结果

研究问题

• RQ1 我们能否在不牺牲任一指标的前提下，联合优化神经响应生成中的多样性与相关性？
• RQ2 我们能否构建一个解耦的潜在空间，使得几何属性（距离与方向）分别对应相关性与多样性？
• RQ3 我们能否通过结构化潜在空间正则化的端到端训练，提升响应质量？
• RQ4 融合后的潜在空间能否支持对响应生成动态的直观可视化与分析？
• RQ5 所提出的方法是否在自动评估与人工评估中均优于强基线模型？

主要发现

• SpaceFusion 在人工评估中于相关性（2.72）与趣味性（2.53）两项指标上均取得最高分，仅略逊于人类参考答案。
• 在 Reddit 数据集上，SpaceFusion 在多样性与相关性上均实现显著提升，人工评估平均得分为 2.63（对比 CVAE+BOW 的 2.44）。
• 与原始 S2S 及 S2S+Sampling 基线相比，该模型显著降低了通用化与平淡化响应的频率。
• S2S 与 AE 潜在空间的融合产生了均匀分布、无聚类的向量分布，支持高效且稳定的采样。
• 潜在空间支持直观可视化，响应向量在空间中按相关性与多样性有序排列，从而可对模型行为进行诊断性分析。
• 该模型在两个数据集（Reddit 与 Switchboard）上均表现出稳健性能，证实了其泛化能力与有效性。