[论文解读] KL-Divergence Guided Temperature Sampling

Chung-Ching Chang, David Reitter+2 more|arXiv (Cornell University)|Jun 2, 2023

Topic Modeling被引用 7

一句话总结

本文提出KL散度引导的温度采样，一种动态解码方法，通过根据与源文档的相关性在生成过程中调整温度，减少幻觉现象的同时保持生成多样性。通过使用KL散度衡量源文档相关性并动态调节温度，该方法在对话式问答和摘要生成任务中的事实性与归属性方面优于top-k和top-p采样。

ABSTRACT

Temperature sampling is a conventional approach to diversify large language model predictions. As temperature increases, the prediction becomes diverse but also vulnerable to hallucinations -- generating tokens that are sensible but not factual. One common approach to mitigate hallucinations is to provide source/grounding documents and the model is trained to produce predictions that bind to and are attributable to the provided source. It appears that there is a trade-off between diversity and attribution. To mitigate any such trade-off, we propose to relax the constraint of having a fixed temperature over decoding steps, and a mechanism to guide the dynamic temperature according to its relevance to the source through KL-divergence. Our experiments justifies the trade-off, and shows that our sampling algorithm outperforms the conventional top-k and top-p algorithms in conversational question-answering and summarization tasks.

研究动机与目标

• 解决大语言模型生成中多样性与事实归属之间的权衡问题。
• 通过在解码过程中动态调整温度，减少少样本和零样本生成中的幻觉现象。
• 提升模型在基于外部源文档生成响应时的可靠性。
• 开发一种机制，在解码过程中使用KL散度作为源相关性的信号。
• 在多样性与事实依据性方面超越静态解码方法（如top-k和top-p）

提出的方法

• 该方法使用两个概率分布之间的KL散度作为信号，其中一个分布包含源输入，另一个不包含，以在每个解码步骤评估源相关性。
• 基于KL散度信号应用动态温度调节机制，当源相关性较低时提高温度，当相关性较高时降低温度。
• 将温度视为控制多样性和归属性的调节旋钮，其依据是先前研究发现温度与模型规模对归属性的影响相似。
• 模型在训练时同时处理包含源和不包含源的输入，从而在推理过程中通过KL散度比较分布。
• 该方法在仅解码器或编码器-解码器框架中实现，温度根据实时源相关性在每个解码步骤进行调整。
• 通过对话式问答和摘要任务中事实一致性、多样性与归属性的标准指标对方法进行评估。

实验结果

研究问题

• RQ1 基于KL散度引导的动态温度调节能否提升大语言模型生成文本的事实一致性？
• RQ2 与静态温度采样相比，所提出的方法是否能在保持生成多样性的同时减少幻觉？
• RQ3 通过KL散度衡量的源相关性如何影响解码过程中的最优温度设置？
• RQ4 KL引导的温度采样能否在归属性与事实准确性方面超越标准的top-k和top-p采样？
• RQ5 当存在或不存在源文档时，动态温度对模型行为有何影响？

主要发现

• 所提出的KL散度引导的温度采样在对话式问答任务中显著减少了幻觉现象，相比基线的top-p和top-k方法表现更优。
• 在QReCC数据集中，该方法实现了更高的事实一致性，90%的回复能正确将事实归因于源文档，优于基线top-p（0.3）和top-p（0.7）。
• 该方法在提升归属性的同时保持了高多样性，表现为相比贪婪解码，重复回复减少了25%。
• 使用σ=0.1的引导top-p生成的回复比标准top-p（0.3或0.7）更准确且更依赖源文档，尤其在复杂事实性查询中表现更优。
• 在摘要任务中，动态温度调节使归属分提高了30%，此时源文档的依据至关重要。
• 实验结果证实，KL散度能有效表征源相关性，从而实现在每个解码步骤的精确温度自适应。