[论文解读] Structuring Latent Spaces for Stylized Response Generation

Xiang Gao, Yizhe Zhang+5 more|arXiv (Cornell University)|Sep 3, 2019

Topic Modeling参考文献 29被引用 7

一句话总结

本文提出StyleFusion，一种多任务学习框架，通过结构化共享潜在空间，利用非平行的对话数据与风格特定文本数据生成风格化且上下文相关的回复。通过将潜在空间正则化，使其风格嵌入靠近对话模型预测结果，该方法实现了对风格强度的连续控制，同时保持回复的相关性，在自动评估与人工评估中均优于基线模型。

ABSTRACT

Generating responses in a targeted style is a useful yet challenging task, especially in the absence of parallel data. With limited data, existing methods tend to generate responses that are either less stylized or less context-relevant. We propose StyleFusion, which bridges conversation modeling and non-parallel style transfer by sharing a structured latent space. This structure allows the system to generate stylized relevant responses by sampling in the neighborhood of the conversation model prediction, and continuously control the style level. We demonstrate this method using dialogues from Reddit data and two sets of sentences with distinct styles (arXiv and Sherlock Holmes novels). Automatic and human evaluation show that, without sacrificing appropriateness, the system generates responses of the targeted style and outperforms competitive baselines.

研究动机与目标

• 解决在缺乏对话文本与风格化文本之间平行训练数据的情况下，生成上下文相关且风格化的回复的挑战。
• 通过在共享且结构化的潜在空间中对齐不同类型的数据，弥合对话建模与非平行风格迁移之间的差距。
• 通过在对话模型预测结果附近的邻域采样，实现对风格强度的连续控制。
• 改进现有方法，这些方法或因牺牲相关性而追求风格，或因潜在空间对齐不佳而无法实现强风格迁移。
• 在Reddit对话与arXiv及夏洛克·福尔摩斯风格文本配对数据上，验证该方法的有效性。

提出的方法

• 该方法采用多任务学习框架，结合序列到序列（S2S）模型用于对话生成，以及自编码器（AE）用于风格数据。
• 引入一种新颖的正则化项 $\mathcal{L}_{\text{style}}$，通过将风格编码向量拉近至语义相关的对话表示，以结构化共享潜在空间。
• 潜在空间进一步通过 $\mathcal{L}_{\text{conv}}$ 进行正则化，该损失项源自SpaceFusion，以保留内容并提升多样性。
• 通过在S2S模型潜在预测结果的邻域内采样生成风格化回复，采样半径控制风格强度。
• 模型通过组合重建损失、内容保留损失与风格对齐损失，进行端到端训练。
• 该方法实现了连续风格控制，且无需依赖平行数据或强制融合独立模型。

实验结果

研究问题

• RQ1 共享且结构化的潜在空间能否有效对齐非平行的对话与风格化文本，以实现风格化回复生成？
• RQ2 所提出的正则化方法 $\mathcal{L}_{\text{style}}$ 是否能在保持回复相关性与多样性的同时提升风格迁移效果？
• RQ3 系统是否能通过潜在空间中的邻域采样实现对风格强度的连续控制？
• RQ4 StyleFusion在风格、相关性与多样性方面与基线模型（如S2S+LM、检索方法和MTask）相比表现如何？
• RQ5 潜在空间的可视化为先前方法（如MTask与S2S+LM）的局限性提供了哪些洞察？

主要发现

• 在人工评估中，StyleFusion在恰当性与风格强度的调和平均值上达到最高，仅略低于人类参考输出。
• 在自动评估中，StyleFusion在arXiv风格回复中达到0.40的风格强度，Holmes风格回复中达到0.55，显著优于MTask模型（分别为0.13与0.17）。
• 该模型在保持高相关性（arXiv与Holmes目标的BLEU-4得分分别为7.9与7.8）的同时实现了高风格强度，而Rand与Retrieval基线模型虽高度风格化但缺乏相关性。
• 与仅使用 $\mathcal{L}_{\text{conv}}$ 的基线相比，添加 $\mathcal{L}_{\text{style}}$ 后风格强度提升了50%，且未降低多样性或相关性。
• 人工评估显示，StyleFusion的输出显著比S2S+LM与MTask更具风格化，同时保持高恰当性（Holmes与arXiv风格的恰当性得分分别为0.46与0.48）。
• 可视化结果证实，StyleFusion成功将风格嵌入对齐至相关对话表示附近，而MTask则产生对齐不佳、聚类明显的潜在表示。