[论文解读] Learning to Predict Explainable Plots for Neural Story Generation

Gang Chen, Yang Liu+4 more|arXiv (Cornell University)|Dec 5, 2019

Topic Modeling参考文献 39被引用 10

一句话总结

本文提出了一种潜在变量模型，通过学习生成人类可理解的自然语言大纲作为高层剧情，以弥合故事标题与生成故事之间的信息鸿沟。通过联合训练规划模型与外部摘要模型，并采用联合目标函数避免对所有可能的大纲进行穷举枚举，该方法在两个基准数据集的自动评估与人工评估中均达到了最先进性能。

ABSTRACT

Story generation is an important natural language processing task that aims to generate coherent stories automatically. While the use of neural networks has proven effective in improving story generation, how to learn to generate an explainable high-level plot still remains a major challenge. In this work, we propose a latent variable model for neural story generation. The model treats an outline, which is a natural language sentence explainable to humans, as a latent variable to represent a high-level plot that bridges the input and output. We adopt an external summarization model to guide the latent variable model to learn how to generate outlines from training data. Experiments show that our approach achieves significant improvements over state-of-the-art methods in both automatic and human evaluations.

研究动机与目标

• 为解决神经故事生成中的信息鸿沟问题，即从简短标题生成长篇故事，引入高层剧情作为潜在变量。
• 通过将剧情表示为自然语言句子而非实值向量，提升可解释性。
• 通过使用外部摘要模型作为监督信号，克服从未观察到的训练数据中学习大纲的挑战。
• 通过联合训练大纲生成与故事生成模型，减少因低质量大纲导致的误差传播。
• 确保模型在训练过程中接触到多样化的预测大纲，提升鲁棒性与泛化能力。

提出的方法

• 该模型将自然语言句子（大纲）视为连接输入标题与输出故事的潜在变量。
• 外部文本摘要模型为潜在大纲生成提供监督，引导模型生成合理且与标题相关的概述。
• 引入联合训练目标，以同时优化大纲质量和故事生成，避免显式枚举所有可能的大纲。
• 模型采用变分推理框架，其中大纲在训练过程中被采样，并通过采样过程进行反向传播。
• 训练目标（公式 4）确保生成的大纲既接近摘要模型的输出，又能使故事生成器重建真实故事。
• 故事生成器中使用自注意力机制，以建模长距离依赖关系，提升连贯性。

实验结果

研究问题

• RQ1 神经模型能否学习生成人类可理解的自然语言大纲，从而有效弥合神经故事生成中标题与故事之间的鸿沟？
• RQ2 与使用固定或现成大纲相比，联合训练摘要模型在多大程度上提升了大纲与故事生成的质量与鲁棒性？
• RQ3 学习生成大纲在多大程度上减少了因低质量或退化大纲导致的误差传播？
• RQ4 使用具有联合目标的潜在变量模型是否相比直接映射或单独训练大纲与故事组件，能带来更好的性能？
• RQ5 生成的大纲在训练过程中如何演变？它们是否会随时间变得更具信息量与相关性？

主要发现

• 所提方法在两个基准数据集的自动评估（如 BLEU 分数）与人工评估中，均显著优于现有最先进方法。
• 该模型在不同规模的训练语料下均保持对基线方法的一致优势，表明其对数据规模具有鲁棒性。
• 规划模型生成的大纲在训练过程中不断演化，其信息量超过摘要模型生成的大纲，第 32K 次迭代时展现出与故事更相关的内容。
• 即使基线方法无法保持主题一致性，该模型仍能成功生成流畅、连贯且与标题相关的故事情节。
• 联合训练目标使模型在训练过程中接触到预测的大纲，降低了对完美大纲的依赖，提升了泛化能力。
• 人工评估确认，该方法生成的故事比竞争方法更具与标题的相关性与连贯性。