[论文解读] Why is constrained neural language generation particularly challenging?

Cristina Gârbacea, Qiaozhu Mei|arXiv (Cornell University)|Jun 11, 2022

Topic Modeling被引用 4

一句话总结

本文识别并分析了约束性神经语言生成中的核心挑战，区分了输入端的条件（conditions）与输出端的约束（constraints），并突出强调了诸如模型表达能力有限、约束不可微分、缺乏稳健的评估指标以及基准数据集不足等关键障碍。本文提出了一套形式化的约束性NLG框架，并呼吁在表达能力、评估方法和鲁棒性方面开展更多研究，以推动安全、可控且高效的文本生成系统的发展。

ABSTRACT

Recent advances in deep neural language models combined with the capacity of large scale datasets have accelerated the development of natural language generation systems that produce fluent and coherent texts (to various degrees of success) in a multitude of tasks and application contexts. However, controlling the output of these models for desired user and task needs is still an open challenge. This is crucial not only to customizing the content and style of the generated language, but also to their safe and reliable deployment in the real world. We present an extensive survey on the emerging topic of constrained neural language generation in which we formally define and categorize the problems of natural language generation by distinguishing between conditions and constraints (the latter being testable conditions on the output text instead of the input), present constrained text generation tasks, and review existing methods and evaluation metrics for constrained text generation. Our aim is to highlight recent progress and trends in this emerging field, informing on the most promising directions and limitations towards advancing the state-of-the-art of constrained neural language generation research.

研究动机与目标

• 澄清神经文本生成中条件（输入端）与约束（输出端）之间的区别，解决文献中的模糊性问题。
• 识别并系统化阻碍有效约束性神经语言生成的关键挑战，包括模型表达能力、优化难度以及评估局限性。
• 综述现有的约束性文本生成方法、架构与评估指标，指出其局限性与空白。
• 倡导聚焦于提升模型表达能力、开发稳健评估指标以及构建多样化、具有代表性的基准数据集的研究，以推动约束性生成的发展。
• 引导未来研究致力于构建更安全、更可控且更可靠的神经文本生成系统，以服务于真实世界的应用。

提出的方法

• 本文通过区分约束（可测试的输出文本条件）与条件（可测试的输入条件），正式定义了约束性神经语言生成。
• 根据约束类型对约束性文本生成任务进行分类，包括词汇、句法、格式、情感和风格约束。
• 作者综述了现有的神经生成方法，包括基于解码的方法（如约束解码、带约束的束搜索）、微调以及强化学习，并分析了其在处理复杂约束时的局限性。
• 本文评估了当前的评估实践，指出了自动化指标的不足，倡导采用人工评估，并开发针对约束满足度的新型基准数据集。
• 讨论了对语言模型的对抗性攻击作为关键挑战，尤其是在输入无关触发词导致约束违反的背景下。
• 该方法包括对近期文献的全面回顾，重点识别约束生成中反复出现的技术与方法论局限。

实验结果

研究问题

• RQ1 为何约束性神经语言生成比无条件或条件性生成更具挑战性？
• RQ2 在神经文本生成中，如何形式化区分作为输出文本可测试条件的约束与作为输入可测试条件的条件？
• RQ3 将任意约束整合进神经语言模型训练目标函数的主要技术障碍是什么？
• RQ4 为何难以评估生成文本在多大程度上满足给定约束，尤其是当与流畅性与连贯性结合时？
• RQ5 当前数据集、评估指标与模型架构在推动约束性文本生成方面存在哪些关键局限？

主要发现

• 由于模型在将任意约束整合进训练目标函数时表达能力有限，约束性神经语言生成尤其具有挑战性。
• 许多约束，尤其是基于标记级别的约束，是不可微分的，使得基于梯度的训练方法难以优化。
• 现有的文本生成评估指标无法稳健地衡量约束满足程度，而人工评估仍是金标准，但在约束性设置中仍利用不足。
• 缺乏多样化、具有代表性且现实的约束性文本生成基准数据集，限制了模型的开发与比较。
• 利用输入无关触发词的对抗性攻击可能引发偏见或有害输出，凸显了在约束性生成模型中提升鲁棒性的必要性。
• 当前方法在同时且有效地组合多种异构约束（如词汇、句法、情感与风格约束）方面存在困难。