[论文解读] CGMH: Constrained Sentence Generation by Metropolis-Hastings Sampling

Ning Miao, Hao Zhou+3 more|arXiv (Cornell University)|Nov 14, 2018

Topic Modeling参考文献 16被引用 17

一句话总结

CGMH 提出了一种基于 Metropolis-Hastings 采样框架的受限句生成方法，直接在句法空间中操作，能够灵活处理硬性约束与软性约束，且无需并行训练数据。该方法在关键词到句子生成、重述生成和错误纠正任务中达到或超越当前最先进性能，优于无监督模型，并接近有监督基线模型的表现。

ABSTRACT

In real-world applications of natural language generation, there are often constraints on the target sentences in addition to fluency and naturalness requirements. Existing language generation techniques are usually based on recurrent neural networks (RNNs). However, it is non-trivial to impose constraints on RNNs while maintaining generation quality, since RNNs generate sentences sequentially (or with beam search) from the first word to the last. In this paper, we propose CGMH, a novel approach using Metropolis-Hastings sampling for constrained sentence generation. CGMH allows complicated constraints such as the occurrence of multiple keywords in the target sentences, which cannot be handled in traditional RNN-based approaches. Moreover, CGMH works in the inference stage, and does not require parallel corpora for training. We evaluate our method on a variety of tasks, including keywords-to-sentence generation, unsupervised sentence paraphrasing, and unsupervised sentence error correction. CGMH achieves high performance compared with previous supervised methods for sentence generation. Our code is released at https://github.com/NingMiao/CGMH

研究动机与目标

• 为解决在依赖自回归、从左到右生成的神经序列生成模型中施加复杂约束（如强制包含关键词）的挑战。
• 开发一种通用的、推理阶段使用的受限句生成方法，无需微调或并行语料库。
• 通过在句法空间中使用马尔可夫链蒙特卡洛（MCMC）技术，实现流畅且符合约束的句子有效采样。
• 在多种任务上评估该框架，包括基于关键词的生成、重述生成和句子错误纠正，以证明其通用性与性能表现。

提出的方法

• CGMH 使用 Metropolis-Hastings（MH）采样生成句子，基于提议分布对当前句子进行局部词级修改（替换、删除、插入）。
• MH 中的平稳分布通过匹配函数设计，以编码约束满足程度：硬性约束（如关键词存在）使用二值编码，软性约束（如语义相关性）使用相似度计算。
• 根据当前句与提议句的平稳分布值之比，计算接受概率，决定是否接受提议。
• 该方法仅在推理阶段运行，无需微调或并行数据，因此适用于零样本或弱监督设置。
• 为提升多样性与流畅性，CGMH 允许自我修正，并通过不强制固定生成顺序来避免错误累积。
• 该框架支持使用符合约束的种子（如关键词序列）进行热启动初始化，以加快收敛速度并提升生成质量。

实验结果

研究问题

• RQ1 在句法空间中使用 Metropolis-Hastings 采样能否在不重新训练的情况下，有效强制执行包含多个必需关键词等复杂硬性约束？
• RQ2 在零样本设置下，CGMH 与有监督和无监督基线模型相比，在生成流畅、多样且符合约束的句子方面表现如何？
• RQ3 在无并行语料的情况下，CGMH 在重述和错误纠正任务中处理语义相似性等软性约束的能力如何？
• RQ4 CGMH 在不同提议操作（替换、删除、插入）下的接受率与收敛行为有何差异？
• RQ5 在句子错误纠正等任务中，CGMH 是否能在无并行训练数据的情况下，达到与有监督模型相当的性能？

主要发现

• 在关键词到句子生成任务中，CGMH 在负对数似然（流畅性）和人工评估中均优于当前最先进有监督模型，且无需任何并行数据即可取得具有竞争力的结果。
• 在无监督重述生成任务中，CGMH 显著优于其他无监督模型，并达到接近有监督 SOTA 方法的性能。
• 在句子错误纠正任务中，CGMH 超过使用 230 万对并行句的 AMU 系统，并与基于规则的 CAMB14 系统性能相当。
• 词替换操作的接受率为 100%，而删除与插入操作的接受率也保持合理水平（8.0%–10.8%），有效支持句法空间的探索。
• CGMH 收敛高效：在重述生成中，少于 50 步即可使超过 20% 的词被替换；在关键词种子初始化下，150 步内即可生成流畅句子。
• 热启动初始化显著提升收敛速度与生成质量，而随机初始化则导致初始性能较差，需长时间缓慢改善。