[论文解读] Steering Output Style and Topic in Neural Response Generation

Di Wang, Nebojša Jojić+2 more|arXiv (Cornell University)|Sep 9, 2017

Topic Modeling参考文献 29被引用 12

一句话总结

本文提出了一种灵活的框架，通过微调和选择性采样解码，实现对神经响应生成的风格控制（例如，星球大战风格、林登·约翰逊总统风格）以及基于主题约束的引导。人工评估显示，该方法在不降低响应质量的前提下，成功实现了风格和主题的控制，相较于基线方法取得了统计上显著的改进。

ABSTRACT

We propose simple and flexible training and decoding methods for influencing output style and topic in neural encoder-decoder based language generation. This capability is desirable in a variety of applications, including conversational systems, where successful agents need to produce language in a specific style and generate responses steered by a human puppeteer or external knowledge. We decompose the neural generation process into empirically easier sub-problems: a faithfulness model and a decoding method based on selective-sampling. We also describe training and sampling algorithms that bias the generation process with a specific language style restriction, or a topic restriction. Human evaluation results show that our proposed methods are able to restrict style and topic without degrading output quality in conversational tasks.

研究动机与目标

• 使神经响应生成模型能够生成特定语言风格的输出，例如著名人物或虚构角色的风格。
• 通过主题引导实现对外部响应内容的控制，使对话系统能够生成有针对性的响应。
• 解决在仅有少量目标风格数据（如数千条例句）情况下的风格控制挑战。
• 在强制执行风格和主题约束的同时，保持高响应质量和相关性。
• 开发一种实用且灵活的框架，适用于聊天机器人和社交媒体内容创作工具。

提出的方法

• 该方法将风格控制和主题控制分解为两个组件：忠实度模型和选择性采样解码策略。
• 在小规模目标风格语料库（例如，林登·约翰逊总统演讲、星球大战剧本）上进行微调，使基础模型适配特定人物形象。
• 选择性采样解码动态选择在目标风格和主题约束下概率较高的候选词。
• 采用基于排名的检索方法作为强基线，从目标人物语料库中检索精确匹配项。
• 将基于似然的生成与特定人物的约束相结合，以在流畅性与风格保真度之间取得平衡。
• 通过人工评估（AMT）对方法进行评估，使用平均意见分（MOS）和二元风格/主题评估指标。

实验结果

研究问题

• RQ1 在仅有少量例句的情况下，神经响应生成模型是否能有效引导至特定语言风格？
• RQ2 能否在解码过程中有效整合主题约束，以引导响应内容而不牺牲相关性？
• RQ3 在强制执行风格和主题约束时，该方法是否能保持或提升响应质量与流畅性？
• RQ4 不同方法（微调、选择性采样、检索）在风格和主题一致性方面表现如何比较？
• RQ5 是否可能在保持自然、连贯响应的同时，实现对人物风格的高度可识别性？

主要发现

• finetune-cg-style 方法在林登·约翰逊人物形象上实现了 21% 的风格匹配率，显著高于 10% 的基线（p < 0.5%）。
• finetune-cg-topic 方法在林登·约翰逊人物形象上实现了 33% 的风格匹配率，表明即使在主题约束下仍具有强大的风格保留能力。
• 对于星球大战人物形象，该方法实现了 27% 的风格匹配率，显著优于 3% 的基线。
• 歌手-词曲作者人物形象的风格匹配率达到最高（31%），但质量退化也最明显，可能由于歌词结构具有更高的自由度。
• 所有基于选择性采样方法的平均意见分（MOS）均高于原始采样基线，且质量无显著下降。
• 结合检索与解码的混合系统优于纯生成或纯检索方法，表明多种方法结合具有实际优势。