[论文解读] Style Transfer in Text: Exploration and Evaluation

Zhenxin Fu, Xiaoye Tan+3 more|arXiv (Cornell University)|Nov 18, 2017

Topic Modeling参考文献 31被引用 29

一句话总结

本文提出两种深度学习模型——多解码器与风格嵌入模型——用于无平行训练数据的文本风格迁移，通过对抗性训练分离内容与风格表征。引入两种新颖的评估指标：迁移强度与内容保留度，其中后者与人类判断高度相关，证明了在论文-新闻标题和情感迁移等任务中内容保留与风格迁移的有效性。

ABSTRACT

Style transfer is an important problem in natural language processing (NLP). However, the progress in language style transfer is lagged behind other domains, such as computer vision, mainly because of the lack of parallel data and principle evaluation metrics. In this paper, we propose to learn style transfer with non-parallel data. We explore two models to achieve this goal, and the key idea behind the proposed models is to learn separate content representations and style representations using adversarial networks. We also propose novel evaluation metrics which measure two aspects of style transfer: transfer strength and content preservation. We access our models and the evaluation metrics on two tasks: paper-news title transfer, and positive-negative review transfer. Results show that the proposed content preservation metric is highly correlate to human judgments, and the proposed models are able to generate sentences with higher style transfer strength and similar content preservation score comparing to auto-encoder.

研究动机与目标

• 为解决文本风格迁移中缺乏平行语料的问题，实现从非平行数据中进行学习。
• 开发可靠的风格迁移评估指标，重点关注迁移强度与内容保留度。
• 设计通过对抗性训练与多任务学习分离内容与风格表征的模型。
• 在真实世界风格迁移任务（如论文-新闻标题迁移与情感迁移）上对模型进行基准测试。
• 提供一个公开可用的数据集，以支持未来在文本风格迁移领域的研究。

提出的方法

• 提出一种多解码器序列到序列模型，其中共享编码器捕捉内容，多个解码器以不同风格生成输出。
• 引入一种风格嵌入模型，在解码前将内容表征与可学习的风格嵌入拼接。
• 采用对抗性网络确保内容表征对风格不变，从而实现解耦。
• 使用多任务学习联合训练内容与风格表征学习，共享参数与任务特定参数。
• 应用带有对抗性损失的分类器头以区分风格，确保内容表征不编码风格信息。
• 采用基于句子嵌入相似度的内容保留度度量，并通过人类判断进行验证。

实验结果

研究问题

• RQ1 能否在无平行训练数据的情况下实现有效的文本风格迁移？
• RQ2 如何在文本表征中有效解耦内容与风格？
• RQ3 在缺乏真实参考文本的情况下，哪些评估指标能可靠地衡量迁移强度与内容保留度？
• RQ4 不同模型架构（多解码器与风格嵌入）在性能与泛化能力方面如何比较？
• RQ5 所提出的评估指标与人类判断的相关性达到何种程度？

主要发现

• 所提出的的内容保留度指标与人类判断高度相关，验证了其作为自动评估指标的可靠性。
• 风格嵌入模型在不同超参数设置下，内容保留度得分为 0.89–0.95，迁移强度为 0.2–0.6，表明在多种场景下表现优异。
• 多解码器模型的迁移强度更高，但内容保留度低于风格嵌入模型，表明架构设计中存在权衡。
• 在正面-负面评论迁移任务中，多解码器模型在迁移强度与内容保留度上均优于风格嵌入模型，评估图中红色曲线（多解码器）位于绿色曲线（风格嵌入）之上。
• 内容保留度的下限估计为 0.609（论文-新闻）与 0.863（情感），两种模型均显著超过该下限，证实了有效的内容保留。
• 定性分析表明，自编码器生成完全相同的输出，而所提模型则保留了大部分内容，仅修改关键词汇或短语以改变风格。