[论文解读] Uncertainty in Natural Language Generation: From Theory to Applications

Joris Baan, Nico Daheim+8 more|arXiv (Cornell University)|Jul 28, 2023

Natural Language Processing Techniques被引用 7

一句话总结

本文通过引入一个涵盖语言、认知和模型层面因素的二维不确定性来源分类法，提出了一套系统化的自然语言生成（NLG）不确定性建模框架，从而提升了NLG系统的可靠性、可控性和可信度。该研究展示了解耦的不确定性表征如何赋能选择性回答、主动学习和可控生成等应用。

ABSTRACT

Recent advances of powerful Language Models have allowed Natural Language Generation (NLG) to emerge as an important technology that can not only perform traditional tasks like summarisation or translation, but also serve as a natural language interface to a variety of applications. As such, it is crucial that NLG systems are trustworthy and reliable, for example by indicating when they are likely to be wrong; and supporting multiple views, backgrounds and writing styles -- reflecting diverse human sub-populations. In this paper, we argue that a principled treatment of uncertainty can assist in creating systems and evaluation protocols better aligned with these goals. We first present the fundamental theory, frameworks and vocabulary required to represent uncertainty. We then characterise the main sources of uncertainty in NLG from a linguistic perspective, and propose a two-dimensional taxonomy that is more informative and faithful than the popular aleatoric/epistemic dichotomy. Finally, we move from theory to applications and highlight exciting research directions that exploit uncertainty to power decoding, controllable generation, self-assessment, selective answering, active learning and more.

研究动机与目标

• 解决尽管不确定性在可信度和可靠性中扮演关键角色，但其在NLG中仍缺乏系统性处理的问题。
• 识别并分类自然语言生成中的主要语言和认知层面的不确定性来源。
• 提出一种比传统“随机性/认知性”二分法更细致的二维不确定性分类法。
• 展示解耦的不确定性表征如何增强实际NLG应用，如解码、自我评估和主动学习。
• 推动建立一种共享的、以理论为基础的不确定性理解，以指导未来可信且多样化的NLG系统研究。

提出的方法

• 利用可能世界模型和概率论，提出一个正式框架以表征NLG中的不确定性。
• 引入“语言生成双重三角”模型，可视化输入、任务、主体和实现层级中的不确定性来源。
• 基于来源（语言 vs. 模型）和类型（认知性 vs. 随机性）构建二维不确定性分类法，提供比标准二分法更丰富的分类体系。
• 将不确定性表征应用于解码策略，如基于置信度的拒绝和选择性回答。
• 通过建模子群体偏好和写作风格，利用不确定性实现可控生成。
• 将不确定性整合到主动学习和分布外检测中，以提升数据效率和鲁棒性。

实验结果

研究问题

• RQ1 如何在语言、认知和模型层面的来源之间，正式表征并区分NLG中的不确定性？
• RQ2 从语言和认知的角度看，自然语言生成中的主要不确定性来源是什么？
• RQ3 二维不确定性分类法相较于传统的随机性/认知性区分，在NLG中有哪些改进？
• RQ4 解耦的不确定性表征在哪些方面能增强NLG系统的解码、可控生成和自我评估能力？
• RQ5 如何利用不确定性来提升NLG模型的主动学习和分布外检测性能？

主要发现

• 本文提出的二维不确定性分类法比传统的随机性/认知性二分法更能捕捉NLG的复杂性，整合了输入模糊性、任务开放性以及模型分布偏移等来源。
• 解耦的不确定性表征可提升选择性回答性能，使模型在置信度较低时选择不回答，从而实现更优的准确率/拒绝率权衡。
• 基于不确定性的解码提升了可控性，使模型能够生成符合特定用户视角或写作风格的响应。
• 模型不确定性可有效用于主动学习，但本文指出在某些情况下，基于不确定性的采样可能不如均匀采样表现优异。
• 预测概率与机器翻译和抽象摘要等任务中的错误概率显著相关，支持其在自我评估中的应用。
• 不确定性建模有助于分布外检测，因为模型在面对分布外输入时表现出更高的不确定性，从而支持异常检测。