[论文解读] Composable Text Controls in Latent Space with ODEs

Guangyi Liu, Zeyu Feng+8 more|arXiv (Cornell University)|Aug 1, 2022

Topic Modeling被引用 4

一句话总结

本文提出 LatentOps，一种通过常微分方程（ODEs）在预训练语言模型的连续潜在空间中实现可组合文本控制的方法。通过将类似变分自编码器（VAE）的框架适配至预训练语言模型与紧凑潜在空间之间，该方法实现了通过 ODE 基采样器对任意属性组合（如情感、正式程度、关键词）进行高效文本采样，相较于以往基于搜索或微调的方法，在生成质量和效率方面表现更优。

ABSTRACT

Real-world text applications often involve composing a wide range of text control operations, such as editing the text w.r.t. an attribute, manipulating keywords and structure, and generating new text of desired properties. Prior work typically learns/finetunes a language model (LM) to perform individual or specific subsets of operations. Recent research has studied combining operations in a plug-and-play manner, often with costly search or optimization in the complex sequence space. This paper proposes a new efficient approach for composable text operations in the compact latent space of text. The low-dimensionality and differentiability of the text latent vector allow us to develop an efficient sampler based on ordinary differential equations (ODEs) given arbitrary plug-in operators (e.g., attribute classifiers). By connecting pretrained LMs (e.g., GPT2) to the latent space through efficient adaption, we then decode the sampled vectors into desired text sequences. The flexible approach permits diverse control operators (sentiment, tense, formality, keywords, etc.) acquired using any relevant data from different domains. Experiments show that composing those operators within our approach manages to generate or edit high-quality text, substantially improving over previous methods in terms of generation quality and efficiency.

研究动机与目标

• 解决现有方法在离散序列空间中微调或搜索以实现文本控制操作时面临的可扩展性与效率限制。
• 在单一统一框架中实现多样化文本控制算子（如情感、正式程度、关键词）的任意组合。
• 克服先前潜在编辑方法中离散文本序列与连续潜在空间之间的不兼容性。
• 开发一种快速、可微分且可扩展的采样机制，用于在潜在空间中生成高质量文本。
• 证明单一经微调的语言模型可在无需重新训练的情况下执行多样化、可组合的文本操作。

提出的方法

• 该方法使用变分自编码器（VAE）框架将文本序列映射至低维连续潜在空间，实现可微分性与高效优化。
• 通过参数高效微调将预训练语言模型（如 GPT-2）适配至从潜在向量重建文本，确保高保真度解码。
• 在潜在空间中将任意文本控制算子（如情感分类器、关键词检测器）定义为能量函数，构成能量基于模型（EBM）。
• 采用基于 ODE 的采样器生成满足组合能量约束的潜在向量，利用连续动力学实现稳定高效的采样。
• 基于得分的生成建模原理训练 ODE 采样器，实现从采样潜在向量生成高质量、流畅的文本。
• 该框架可通过在潜在空间中组合多个算子，同时支持对已有文本的编辑与指定属性的新文本生成。

实验结果

研究问题

• RQ1 单一统一框架是否能在无需重新训练的情况下高效组合多种文本控制操作（如情感、正式程度、关键词）？
• RQ2 与基于搜索或优化的方法相比，使用 ODE 在连续潜在空间中采样是否在生成质量与推理速度方面表现更优？
• RQ3 单一经微调的语言模型是否能在多样化的、组合式文本控制任务中实现良好泛化？
• RQ4 ODE 采样器在满足复杂多属性约束的同时，能否有效保持文本的流畅性与多样性？
• RQ5 该方法在复杂真实世界文本编辑与生成场景中具备多高的可扩展性？

主要发现

• ODE 采样器在生成质量、多样性与推理速度之间实现了最佳平衡，生成耗时 5.5 秒，显著快于 SDE（15.6 秒），且与 SGLD（5.1 秒）相当。
• LatentOps 在编辑与生成任务中均显著优于基线方法，自动指标（如 BLEU、ROUGE）与人工评估均显示更高的生成质量。
• 该方法可实现高保真度的多属性文本编辑，支持同时或顺序应用多个属性，同时保持语义连贯性与流畅性。
• 该框架支持将不同领域训练的多样化算子（如情感、正式程度、关键词）即插即用，展现出强大的可组合性。
• 基于 VAE 的适配方法可实现从潜在向量的有效解码，保留原始预训练语言模型（如 GPT-2）在潜在空间中的能力。
• 消融研究证实，与 Langevin 动力学（SGLD）或基于 SDE 的方法相比，ODE 采样器更具稳定性且对超参数不敏感。