[论文解读] Conditioned Natural Language Generation using only Unconditioned Language Model: An Exploration

Fan-Keng Sun, Cheng-I Lai|arXiv (Cornell University)|Nov 14, 2020

Topic Modeling参考文献 4被引用 9

一句话总结

本文提出了一种简单、灵活且高效的方法，仅使用预训练的非条件语言模型（无需微调或额外引导模型）进行条件化自然语言生成。通过修改标记嵌入、隐藏状态或下一个词的概率分布，该方法在不改变模型架构或重新训练的情况下，实现了对多种属性的条件化生成，且在流畅性和相关性方面优于先前方法，生成的文本流畅且多样。

ABSTRACT

Transformer-based language models have shown to be very powerful for natural language generation (NLG). However, text generation conditioned on some user inputs, such as topics or attributes, is non-trivial. Past approach relies on either modifying the original LM architecture, re-training the LM on corpora with attribute labels, or having separately trained `guidance models' to guide text generation in decoding. We argued that the above approaches are not necessary, and the original unconditioned LM is sufficient for conditioned NLG. We evaluated our approaches by the samples' fluency and diversity with automated and human evaluation.

研究动机与目标

• 解决无需微调或额外训练数据的条件化自然语言生成（NLG）挑战。
• 消除对外部引导模型或人工整理词表的依赖，这些方法成本高且缺乏灵活性。
• 实现灵活的多属性条件化，支持对条件的任意加权。
• 通过自动指标和人工评估，评估该方法在流畅性和多样性方面的表现。
• 证明仅使用预训练的非条件语言模型，即可在复杂条件约束下有效生成多样且相关的内容。

提出的方法

• 在推理过程中直接修改语言模型的标记嵌入，以整合条件信息。
• 调整Transformer解码器的隐藏状态，使其与期望属性对齐。
• 通过建模 $ p(x)p(c|x) $ 替换下一个词的概率分布，其中 $ c $ 为条件，以引导生成过程。
• 将多种条件化策略整合为单一统一的推理阶段方法。
• 在单步更新中应用这些修改，无需迭代解码，与PPLM不同。
• 保持原始预训练语言模型架构不变，仅在推理阶段依赖输入条件。

实验结果

研究问题

• RQ1 预训练的非条件语言模型是否能在不微调或使用额外模型的情况下，生成用户定义属性的流畅且多样的文本？
• RQ2 与PPLM相比，该方法在流畅性、多样性和属性相关性方面的表现如何？
• RQ3 该方法能否处理复杂、多属性的条件组合，包括任意组合与权重？
• RQ4 与PPLM等迭代方法相比，单步条件化方法存在哪些局限性？
• RQ5 修改嵌入和注意力状态对困惑度和生成质量有何影响？

主要发现

• 所提方法在生成文本中实现了高流畅度与多样性，经自动指标和人工评估均得到验证。
• 该方法成功实现了对多个属性的同步条件化，包括情感、主题和领域，即使在异常或冲突组合下也表现良好。
• 生成样本准确反映了给定属性，相关关键词被突出显示（例如，[Negative] 情况下为 'false'），表明属性控制有效。
• 尽管为单步方法，该方法仍能生成连贯且上下文相关的输出，但观察到部分退化现象和较高困惑度。
• 与PPLM相比，该方法在灵活性和简洁性方面表现更优，因其无需额外训练或引导模型。
• 即使在具有挑战性的属性组合下，该方法依然有效，如表6所示，尽管语义上存在怪异之处，仍能生成多样且连贯的输出。