[논문 리뷰] Alleviating Exposure Bias via Contrastive Learning for Abstractive Text Summarization

Shichao Sun, Wenjie Li|arXiv (Cornell University)|2021. 08. 26.

Topic Modeling참고 문헌 17인용 수 16

한 줄 요약

이 논문은 추상적 텍스트 요약에서 노출 편향을 완화하기 위해 학습 중에 골드 요약의 우도와 실버 요약의 우도 감소를 동시에 최적화하는 대trastive 학습 방법인 ConSum을 제안한다. 생성된(실버) 요약을 부정 예시로 포함시킴으로써 모델은 저품질 출력을 피하게 되어, XSum, CNN-DM, Multi-News에서 PEGASUS와 같은 최신 모델을 초월하는 성능 향상을 이룬다.

ABSTRACT

Encoder-decoder models have achieved remarkable success in abstractive text summarization, which aims to compress one or more documents into a shorter version without the loss of the essential content. Unfortunately, these models mostly suffer a discrepancy between training and inference, i.e., the exposure bias problem. During the training stage, with teacher forcing these models are optimized to maximize the likelihood of the gold summary given the gold summary tokens as input to the decoder, while at inference the given tokens are replaced by the generated tokens. Consequently, low-quality summaries are very likely to be generated. To remedy this problem, we propose to leverage contrastive learning to decrease the likelihood of these low-quality summaries, and meanwhile increase the likelihood of the gold summary. Since our solution expands the states that the model perceives during training, we expect that the exposure bias problem can be alleviated. We experimentally demonstrate that our method effectively improves the performance of the state-of-the-art model on different datasets.

연구 동기 및 목표

• 모델이 학습 시 골드 요약을 사용하지만 추론 시 생성된 요약을 사용하는 추상적 텍스트 요약에서의 노출 편향 문제를 해결하기 위해.
• 내용적으로 사실과 다소 벗어나는 저품질 '실버 요약'을 생성할 가능성을 줄이기 위해.
• 학습 중에 긍정(골드) 및 부정(실버) 요약 상태를 모두 노출시켜 일반화 능력을 향상시키기 위해.
• 아키텍처 변경 없이도 최신 모델인 PEGASUS의 성능을 대비 학습을 통해 향상시키기 위해.
• 대비 학습이 스케줄링 샘플링보다 노출 편향 완화에 더 효과적인가를 입증하기 위해.

제안 방법

• 학습 중에 모델의 출력 임베딩과 학습 중 생성된 실버 요약의 임베딩 간 유사도를 최소화하는 대비 손실을 도입한다.
• 학습 중 디코더 입력은 50% 확률로 생성된(실버) 요약으로 무작위로 대체되어 추론 조건을 시뮬레이션한다.
• 대비 손실은 $ \mathcal{L}_{\text{con}} = \max(0, \text{sim}(h_{\text{gold}}, h_{\text{pred}}) - \text{sim}(h_{\text{gold}}, h_{\text{silver}}) + \gamma) $ 로 정의되며, $ \gamma $ 는 마진 하이퍼파ram터이다.
• 총 손실은 음의 로그 우도(NLL)와 대비 손실의 합으로 구성된다: $ \mathcal{L} = \mathcal{L}_{\text{nll}} + \mathcal{L}_{\text{con}} $.
• 실버 요약은 학습 중 빔 서치를 통해 생성되며, 대비 목표에서 부정 샘플로 사용된다.
• 이 방법은 아키텍처 수정 없이 PEGASUS 및 기타 최신 모델에 적용된다.

실험 결과

연구 질문

• RQ1 학습 중 골드 요약과 실버 요약을 모두 모델링함으로써 대비 학습이 추상적 요약에서의 노출 편향을 줄일 수 있는가?
• RQ2 생성된 요약을 부정 예시로 포함시키면 모델의 일반화 능력 향상과 사실 왜곡 감소에 기여하는가?
• RQ3 다양한 데이터셋에서 스케줄링 샘플링과 비교했을 때 제안된 방법이 노출 편향 완화에 얼마나 효과적인가?
• RQ4 NLL와 대비 목표를 균형 있게 유지하기 위해 대비 손실의 최적 마진 값은 무엇인가?
• RQ5 이 방법은 단일 문서 및 다중 문서 설정을 포함한 다양한 요약 벤치마크에서 일관되게 성능 향상을 이끌 수 있는가?

주요 결과

• XSum 및 CNN-DM에서 ConSum은 Rouge-1, Rouge-2, Rouge-L 점수를 각각 47.34, 24.67, 39.40로 향상시켜 PEGASUS와 스케줄링 샘플링을 초월한다.
• Multi-News에서는 ConSum이 Rouge-1 47.70, Rouge-2 18.95, Rouge-L 24.86을 기록하여 스케줄링 샘플링보다 약간의 향상이 있었으며 경쟁력 있는 성능을 보였다.
• 제거 실험 결과 NLL와 대비 손실이 상호 보완적임을 확인하였으며, NLL를 제거할 경우 성능이 크게 떨어졌다.
• CNNDM에서 마진 값 $ \gamma = 1.5 $ 가 가장 높은 Rouge-1 성능을 보였으며, 이 하이퍼파ram터에 민감함을 확인하였다.
• 학습 중 실버 요약의 생성 가능성을 명시적으로 최소화함으로써 노출 편향을 완화하는 데 기여하였다.
• 결과적으로 생성된 요약을 부정 예시로 사용하는 대비 학습이 스케줄링 샘플링보다 요약 품질 향상에 더 효과적임을 입증하였다.