[论文解读] Cue Me In: Content-Inducing Approaches to Interactive Story Generation

Faeze Brahman, Alexandru Petrusca+1 more|arXiv (Cornell University)|Oct 20, 2020

Topic Modeling参考文献 35被引用 6

一句话总结

本文提出了两种新颖的内容引导方法——Cued Writer 和 Relevance Cued Writer，用于交互式故事生成，用户通过中层提示短语引导故事发展。基于 Transformer 的模型采用层次注意力机制，提升了主题连贯性和个性化程度，在自动评估与人工评估中均显著优于基线模型，且在流畅性和相关性方面取得具有统计学意义的提升。

ABSTRACT

Automatically generating stories is a challenging problem that requires producing causally related and logical sequences of events about a topic. Previous approaches in this domain have focused largely on one-shot generation, where a language model outputs a complete story based on limited initial input from a user. Here, we instead focus on the task of interactive story generation, where the user provides the model mid-level sentence abstractions in the form of cue phrases during the generation process. This provides an interface for human users to guide the story generation. We present two content-inducing approaches to effectively incorporate this additional information. Experimental results from both automatic and human evaluations show that these methods produce more topically coherent and personalized stories compared to baseline methods.

研究动机与目标

• 为解决单次生成故事中用户无法在输出过程中进行控制的局限性，提出支持交互式、渐进式故事创作的方法。
• 开发有效的内容引导方法，实现实时将用户提供的提示短语融入故事生成过程。
• 通过注意力机制融合上下文与提示短语信息，提升故事的连贯性与个性化程度。
• 通过自动指标与人工判断相结合的方式，评估这些方法的有效性。
• 探索人机协作在创意写作中的可行性，尤其针对教育与可访问性应用场景。

提出的方法

• Cued Writer 模型采用两个独立编码器——一个用于故事上下文，一个用于提示短语——并结合交叉注意力机制，将提示与生成的句子对齐。
• Relevance Cued Writer 在 Cued Writer 的基础上，增加了一个上下文-提示多头注意力模块，显式测量上下文与提示短语之间的语义相关性。
• 两种模型均为端到端可训练的 Transformer 网络，在自回归生成过程中通过层次注意力机制整合提示信息。
• 模型以逐句方式生成故事，每句新句子均基于先前的上下文和当前用户提供的提示短语进行条件生成。
• 外部知识（如提示短语）被融合进解码器的注意力机制中，以指导内容选择并保持连贯性。
• 通过自动指标与人工评估（包括流畅性、相关性与主题连贯性）对模型进行评估。

实验结果

研究问题

• RQ1 用户提供的提示短语是否能在交互式、渐进式设置中有效引导故事生成？
• RQ2 如何将提示短语整合进神经序列模型中，以提升故事的连贯性与个性化程度？
• RQ3 建模上下文与提示短语之间的相关性是否能带来优于独立编码的生成质量？
• RQ4 在流畅性、相关性与主题一致性方面，所提模型与强基线模型相比表现如何？
• RQ5 与单次生成相比，基于提示的交互式故事生成是否能产生更具吸引力与个性化的叙事？

主要发现

• 在句子级别的真人评估中，Relevance Cued Writer 模型相对于 Seq2Seq 基线的偏好率达到 72%，p < 0.001，表明具有极强的统计显著性。
• 与 Vanilla 基线相比，人工评判者在 64% 的情况下更偏好 Relevance Cued Writer 而非 Cued Writer 模型，证明建模上下文-提示相关性具有额外优势。
• 在故事级别的评估中，Relevance Cued Writer 超越所有基线模型，配对比较中的偏好率超过 70%。
• 与基线相比，该模型更准确地整合了提示短语，显著减少了遗漏、不连贯或重复提及的情况。
• 错误分析显示，共指消解与离题生成仍是持续存在的挑战，表明在代词定位与主题一致性方面仍有改进空间。
• 结果证实，交互式、提示驱动的故事生成相比单次生成，能产生更具个性化与连贯性的叙事。