[论文解读] Incorporating Discriminator in Sentence Generation: a Gibbs Sampling Method

Jinyue Su, Jiacheng Xu+2 more|arXiv (Cornell University)|Feb 25, 2018

Topic Modeling参考文献 22被引用 12

一句话总结

本文提出了一种基于Gibbs采样的框架，通过使用预训练语言模型和判别器迭代优化候选句子，实现约束性、流畅且多样化的句子生成。该方法利用判别器指导词替换，提升生成质量，在BLEU分数和对数似然值上均优于基线采样方法。

ABSTRACT

Generating plausible and fluent sentence with desired properties has long been a challenge. Most of the recent works use recurrent neural networks (RNNs) and their variants to predict following words given previous sequence and target label. In this paper, we propose a novel framework to generate constrained sentences via Gibbs Sampling. The candidate sentences are revised and updated iteratively, with sampled new words replacing old ones. Our experiments show the effectiveness of the proposed method to generate plausible and diverse sentences.

研究动机与目标

• 为解决生成满足显式约束（如情感或主题）的简短、流畅且多样化句子的挑战。
• 克服自回归模型在约束条件下可能生成语义不连贯或无意义句子的局限性。
• 通过解耦语言模型与判别器，实现半监督训练，从而同时利用有标签和无标签数据。
• 通过分离流畅性与约束满足度组件，实现对句子长度的可控性，并提升可解释性。
• 探索Gibbs采样在神经文本生成中的新颖应用，区别于标准的自回归解码。

提出的方法

• 该框架使用Gibbs采样迭代重采样句子中的每个词，基于条件概率用新词替换。
• 预训练语言模型通过计算 $ p(w_i | w_{1..i-1}, w_{i+1..n}) $ 评估句子的流畅性，确保局部连贯性。
• 独立的判别器模型评估当前句子是否满足期望约束，估计 $ p(c | w_{1..n}) $。
• 在每次迭代中，候选生成器基于语言模型生成最可能的候选词。
• Gibbs采样过程交替更新词语并使用判别器重新评估句子，逐步提升约束满足度。
• 该方法支持长度控制与模块化训练：语言模型与判别器可分别在有标签和无标签数据上独立训练。

实验结果

研究问题

• RQ1 与自回归方法相比，Gibbs采样能否有效应用于约束性句子生成，以提升流畅性与多样性？
• RQ2 判别器的引入在不直接建模 $ p(w_{1..n}|c) $ 的情况下，如何提升生成句子的约束满足度？
• RQ3 所提方法在BLEU分数、对数似然值和有效句子比率方面，相较于标准采样基线的性能提升程度如何？
• RQ4 该框架能否通过在无标签数据上训练语言模型、在有标签数据上训练判别器，实现半监督学习？
• RQ5 系统的模块化设计在生成失败时对可解释性与错误诊断有何影响？

主要发现

• 所提Gibbs采样方法在BLEU分数上显著优于基线采样方法，无论是否使用简短惩罚。
• Gibbs采样生成句子的每词对数似然值更高，表明其与语言模型的对齐性更好，流畅性更优。
• Gibbs采样在有效句子比率上略有提升，表明判别效率更高。
• 该方法支持可控的句子长度，因为Gibbs采样过程天然支持长度约束。
• 失败案例主要源于语言模型的局限性（如句子片段断裂或从句不完整），而非判别器所致。
• 该框架支持半监督学习，因为语言模型与判别器可分别在有标签和无标签数据上独立训练。