[论文解读] Stable Style Transformer: Delete and Generate Approach with Encoder-Decoder for Text Style Transfer

Joosung Lee|arXiv (Cornell University)|May 25, 2020

Natural Language Processing Techniques被引用 8

一句话总结

本文提出稳定风格变换器（SST），一种两阶段文本风格迁移方法，首先通过基于分类器的方法删除与风格相关的属性标记，然后利用Transformer编码器-解码器生成风格迁移后的句子。该方法在所有自动评估指标（内容、流畅性、风格准确率和语义相似度）上均表现出稳定性能，优于不稳定的基线模型，在人工评估中也表现更优，适用于实际部署。

ABSTRACT

Text style transfer is the task that generates a sentence by preserving the content of the input sentence and transferring the style. Most existing studies are progressing on non-parallel datasets because parallel datasets are limited and hard to construct. In this work, we introduce a method that follows two stages in non-parallel datasets. The first stage is to delete attribute markers of a sentence directly through a classifier. The second stage is to generate a transferred sentence by combining the content tokens and the target style. We experiment on two benchmark datasets and evaluate context, style, fluency, and semantic. It is difficult to select the best system using only these automatic metrics, but it is possible to select stable systems. We consider only robust systems in all automatic evaluation metrics to be the minimum conditions that can be used in real applications. Many previous systems are difficult to use in certain situations because performance is significantly lower in several evaluation metrics. However, our system is stable in all automatic evaluation metrics and has results comparable to other models. Also, we compare the performance results of our system and the unstable system through human evaluation. Our code and data are available at the link (https://github.com/rungjoo/Stable-Style-Transformer).

研究动机与目标

• 解决现有文本风格迁移模型在自动评估指标上的不稳定性问题。
• 开发一种无需依赖对抗训练或解耦潜在表征的方法，实现风格与内容的解耦。
• 通过分类器概率变化实现直观、与模型无关的属性标记删除。
• 确保在多个评估指标上性能稳定，使系统适用于实际应用场景。
• 探索潜在空间行走，以提升生成句子中的风格控制能力。

提出的方法

• 采用两阶段框架：首先，使用预训练分类器基于掩码标记后预测概率显著变化，识别并删除风格属性标记。
• 该方法与模型无关，无需依赖注意力权重或基于频率的启发式方法进行标记检测。
• 将删除后句子中的内容标记与目标风格嵌入结合，利用基于Transformer的编码器-解码器生成迁移后的句子。
• 通过风格损失进行训练，以提高风格迁移准确率，同时不损害内容保留效果。
• 超参数 α 和 β 控制内容保留与风格迁移之间的权衡，实现可调节的性能表现。
• 通过插值风格向量探索潜在空间行走，生成具有中间风格属性的句子。

实验结果

研究问题

• RQ1 非对抗性、非解耦方法是否能在文本风格迁移中实现多个自动评估指标的稳定性能？
• RQ2 基于分类器的属性标记删除方法与基于频率或注意力权重的方法相比，在稳定性和控制性方面表现如何？
• RQ3 通过风格向量空间中的潜在空间插值，风格控制能力可提升至何种程度？
• RQ4 超参数 α 和 β 如何影响内容保留与风格迁移之间的权衡？
• RQ5 稳定的自动评估结果是否能可靠预测人工偏好？

主要发现

• SST在Yelp数据集上所有自动评估指标上均表现稳定——内容（G-BLEU: 19.11）、流畅性（t-PPL: 306.65）、风格准确率（82.2%）和语义相似度（BERTscore: 89.96）。
• 引入风格损失后，风格准确率提升4个百分点，同时增强流畅性，尽管G-BLEU略有下降，表明存在优化权衡。
• 人工评估证实SST比不稳定的基线模型更可靠，且在多个指标上偏好一致。
• 该模型在Yelp和Amazon两个数据集上均表现稳健，证明其在不同领域和风格迁移方向上的泛化能力。
• 潜在空间行走结果表明，插值风格向量可生成具有中间风格的句子，尽管不总是中性风格，提示向量空间对齐仍有改进空间。
• 基于分类器的删除方法实现了直观、与模型无关的属性标记识别，无需预定义词典或注意力机制。