[论文解读] Flexible and Creative Chinese Poetry Generation Using Neural Memory

Jiyuan Zhang, Yang Feng+5 more|arXiv (Cornell University)|May 10, 2017

Artificial Intelligence in Games被引用 5

一句话总结

本文提出了一种用于中文诗歌生成的记忆增强神经模型，通过整合神经记忆来存储和检索风格多样的诗歌实例，从而在语言规则与审美创新之间取得平衡。该模型在保持语法和声调合规性的同时增强了创造力，实现了灵活的风格迁移，并在基线神经模型之上提升了生成质量。

ABSTRACT

It has been shown that Chinese poems can be successfully generated by sequence-to-sequence neural models, particularly with the attention mechanism. A potential problem of this approach, however, is that neural models can only learn abstract rules, while poem generation is a highly creative process that involves not only rules but also innovations for which pure statistical models are not appropriate in principle. This work proposes a memory-augmented neural model for Chinese poem generation, where the neural model and the augmented memory work together to balance the requirements of linguistic accordance and aesthetic innovation, leading to innovative generations that are still rule-compliant. In addition, it is found that the memory mechanism provides interesting flexibility that can be used to generate poems with different styles.

研究动机与目标

• 解决神经序列到序列模型在中文诗歌生成中缺乏创新的问题，这些模型往往过度拟合于高频、常见的模式。
• 克服纯统计模型在处理低频、独特诗歌表达方面的局限，而这些表达对于审美创新至关重要。
• 引入一种神经记忆机制，使模型能够在生成过程中回忆并重用罕见且风格独特的诗歌范例。
• 通过有针对性的记忆检索，实现对特定诗歌风格（如田园、浪漫、战场）的灵活控制，从而实现生成。
• 通过平衡流畅性、规则合规性与创造性创新，提升生成质量，尤其在模型过拟合或欠拟合的情况下表现更优。

提出的方法

• 在预训练的序列到序列神经模型基础上，增加一个可微分的神经记忆模块，用于存储和检索过往的诗歌序列。
• 使用记忆读取机制在解码过程中关注相关存储的诗歌范例，将其与解码器的隐藏状态结合，以引导生成。
• 实现记忆写入机制，将新生成或微调后的诗歌范例更新至记忆中，从而实现持续学习与风格适应。
• 引入风格特定的记忆库，通过从特定领域的记忆向量中检索，实现对不同诗歌风格（如浪漫、战场、田园）的可控生成。
• 应用注意力机制，将解码器输出与输入上下文及相关的记忆条目对齐，确保生成内容的连贯性与风格一致性。
• 采用混合训练目标，结合标准序列生成损失、记忆检索损失与一致性正则化，以稳定训练并提升泛化能力。

实验结果

研究问题

• RQ1 神经记忆机制是否能在不牺牲语言或声调合规性的前提下，提升神经诗歌生成模型的创造力？
• RQ2 与标准神经序列模型相比，记忆模块的集成在多大程度上增强了模型生成新颖、非冗余诗歌输出的能力？
• RQ3 记忆机制在多大程度上可用于控制和迁移生成诗歌中的诗歌风格（如浪漫、田园、战场）？
• RQ4 在过拟合或欠拟合的训练环境下，记忆增强模型是否在审美质量、创新性和规则合规性方面优于基线模型？
• RQ5 人类专家是否认为该模型生成的诗歌与经验丰富的业余诗人的作品相当？

主要发现

• 记忆增强模型显著提升了创新性，73% 的风格迁移尝试成功改变了生成诗歌的诗歌风格。
• 在从通用主题生成时，带有浪漫记忆的模型其‘浪漫’风格标签率达到 61%，而基线模型仅为 18%，表明实现了有效的风格控制。
• 带有风格记忆的模型获得了 3.07 的审美评分与 3.17 的创新评分，优于基线模型（审美 2.53，创新 2.94），表明其创造性质量得到提升。
• 即使在提升创新性的同时，该模型仍保持了较高的规则合规性（4.07/5.00）与流畅性（3.00/5.00），表明记忆机制在不牺牲核心语言质量的前提下提升了创造力。
• 专家评价认为，使用风格记忆生成的诗歌与经验丰富的业余诗人的作品相当，验证了该模型的实际相关性。
• 带有田园记忆的模型在 94% 的情况下被识别为‘田园’风格，证实了基于记忆的风格控制具有高度有效性与可靠性。