[论文解读] Alleviating Exposure Bias via Contrastive Learning for Abstractive Text Summarization

Shichao Sun, Wenjie Li|arXiv (Cornell University)|Aug 26, 2021

Topic Modeling参考文献 17被引用 16

一句话总结

该论文提出 ConSum，一种对比学习方法，通过在训练过程中联合优化黄金摘要似然度与银质摘要似然度降低，缓解抽取式文本摘要中的暴露偏差问题。通过将生成的（银质）摘要作为负样本，模型学会避免生成低质量输出，在 XSum、CNN-DM 和 Multi-News 上的性能超越了 PEGASUS 等当前最先进模型。

ABSTRACT

Encoder-decoder models have achieved remarkable success in abstractive text summarization, which aims to compress one or more documents into a shorter version without the loss of the essential content. Unfortunately, these models mostly suffer a discrepancy between training and inference, i.e., the exposure bias problem. During the training stage, with teacher forcing these models are optimized to maximize the likelihood of the gold summary given the gold summary tokens as input to the decoder, while at inference the given tokens are replaced by the generated tokens. Consequently, low-quality summaries are very likely to be generated. To remedy this problem, we propose to leverage contrastive learning to decrease the likelihood of these low-quality summaries, and meanwhile increase the likelihood of the gold summary. Since our solution expands the states that the model perceives during training, we expect that the exposure bias problem can be alleviated. We experimentally demonstrate that our method effectively improves the performance of the state-of-the-art model on different datasets.

研究动机与目标

• 为解决抽取式文本摘要中的暴露偏差问题，即模型在训练时使用黄金摘要，但在推理时使用生成的摘要。
• 降低生成与事实内容偏离的低质量“银质摘要”的可能性。
• 通过在训练过程中同时暴露于正样本（黄金）和负样本（银质）摘要状态，提升模型泛化能力。
• 通过对比学习提升当前最先进模型（如 PEGASUS）的性能，且无需修改网络架构。
• 证明对比学习在缓解暴露偏差方面优于课程采样（scheduled sampling）。

提出的方法

• 该方法引入一种对比损失，最小化模型输出嵌入与训练期间生成的银质摘要嵌入之间的相似度。
• 在训练过程中，以 50% 的概率将解码器输入替换为生成的（银质）摘要，以模拟推理条件。
• 对比损失定义为 $ \mathcal{L}_{\text{con}} = \max(0, \text{sim}(h_{\text{gold}}, h_{\text{pred}}) - \text{sim}(h_{\text{gold}}, h_{\text{silver}}) + \gamma) $，其中 $ \gamma $ 为边缘超参数。
• 总损失结合了负对数似然（NLL）和对比损失：$ \mathcal{L} = \mathcal{L}_{\text{nll}} + \mathcal{L}_{\text{con}} $。
• 银质摘要在训练期间通过束搜索生成，并用作对比目标中的负样本。
• 该方法应用于 PEGASUS 及其他 SOTA 模型，且无需修改网络架构。

实验结果

研究问题

• RQ1 通过在训练中同时建模黄金摘要与银质摘要，对比学习能否缓解抽取式摘要中的暴露偏差？
• RQ2 将生成摘要作为负样本引入，能否提升模型泛化能力并减少事实幻觉？
• RQ3 在不同数据集上，该方法与课程采样相比，在缓解暴露偏差方面表现如何？
• RQ4 对比损失中最佳的边缘值（margin value）是多少，以在 NLL 与对比损失之间实现最佳平衡？
• RQ5 该方法能否在包括单文档与多文档设置在内的多样化摘要基准上持续提升性能？

主要发现

• ConSum 在 XSum 和 CNN-DM 上提升了 Rouge-1、Rouge-2 和 Rouge-L 分数，分别达到 47.34、24.67 和 39.40，优于 PEGASUS 和课程采样。
• 在 Multi-News 上，ConSum 取得 47.70 Rouge-1、18.95 Rouge-2 和 24.86 Rouge-L，性能与课程采样相当，略占优势。
• 消融实验表明，NLL 损失与对比损失具有互补性，当移除 NLL 损失时模型性能显著下降。
• 在 CNNDM 上，$ \gamma = 1.5 $ 的边缘值取得最佳 Rouge-1 表现，表明该超参数对结果敏感。
• 通过在训练期间显式最小化银质摘要的生成概率，该方法降低了生成银质摘要的风险，从而缓解了暴露偏差。
• 结果表明，使用生成摘要作为负样本的对比学习，在提升摘要质量方面优于课程采样。