[논문 리뷰] Generative Adversarial Network for Abstractive Text Summarization

Linqing Liu, Yao Lu외 4명|arXiv (Cornell University)|2017. 11. 26.

Topic Modeling인용 수 32

한 줄 요약

이 논문은 강화학습을 통해 생성기를 동시 훈련하고, 인간이 작성한 요약문과 기계가 생성한 요약문을 구분하는 판별기를 갖춘 GAN 기반 프레임워크를 제안한다. 적대적 훈련은 요약 품질을 향상시켜 CNN/Daily Mail 데이터셋에서 최신 기준인 ROUGE 점수를 달성하면서 독해력과 다양성도 크게 향상시킨다.

ABSTRACT

In this paper, we propose an adversarial process for abstractive text summarization, in which we simultaneously train a generative model G and a discriminative model D. In particular, we build the generator G as an agent of reinforcement learning, which takes the raw text as input and predicts the abstractive summarization. We also build a discriminator which attempts to distinguish the generated summary from the ground truth summary. Extensive experiments demonstrate that our model achieves competitive ROUGE scores with the state-of-the-art methods on CNN/Daily Mail dataset. Qualitatively, we show that our model is able to generate more abstractive, readable and diverse summaries.

연구 동기 및 목표

• 최대우도 훈련을 대체하여 강화학습을 도입함으로써 요약 생성에서의 노출 편향과 미분 불가능한 평가 지표 문제를 해결한다.
• 판별 모델을 활용한 적대적 훈련을 통해 생성된 요약의 문법적 정확성, 독해력, 사실적 일관성을 향상시킨다.
• 순서-순서 모델에서 흔히 발생하는 일반적이고 반복적인 출력을 줄이기 위해 판별기를 활용하여 저품질 생성을 페널티 처리한다.
• 기존 방법에 비해 더 다양하고 개괄적인 요약을 생성하면서도 경쟁적인 ROUGE 점수를 달성한다.
• 판별기를 정책 그래디언트 최적화에서 보상 신호로 사용하여 훈련 목표와 평가 지표 간 격차를 해소한다.

제안 방법

• 생성기는 양방향 LSTM 인코더와 포인터-생성기 네트워크를 갖춘 어텐션 기반 LSTM 디코더를 사용하여 입력 텍스트에서 요약을 생성한다.
• 판별기는 인간 요약문과 생성된 요약문을 구분하는 데 사용되는 CNN 기반 텍스트 분류기로 구현된다.
• 생성기는 정책 그래디언트(판별기의 보상 신호를 활용)와 최대우도 추정을 조합한 하이브리드 손실을 사용하여 훈련되며, 스케일링 인자 β를 통해 균형을 이룬다.
• 판별기는 표준 GAN 손실을 사용하여 업데이트되며, 진짜 요약문의 로그우도를 최소화하고 가짜 요약문의 로그우도를 최소화한다.
• 생성기의 정책 그래디언트 업데이트는 판별기의 출력을 보상 신호로 사용한다: ∇θJpg = 1/T ∑t=1T ED[Gθ] [RD(Y1:T) ∇θ log p(yt|Y1:t−1,X)].
• 모델들은 번갈아가며 훈련된다: 먼저 생성기와 판별기를 사전 훈련한 후, 적대적 업데이트를 통해 공동 최적화한다.

실험 결과

연구 질문

• RQ1 판별 모델을 활용한 적대적 훈련이 개괄적 텍스트 요약의 품질과 다양성에 기여하는가?
• RQ2 정책 그래디언트 훈련에서 판별기를 보상 신호로 사용할 경우 노출 편향이 감소하고 요약의 일관성이 향상되는가?
• RQ3 제안된 프레임워크는 최대우도로 훈련된 모델보다 독해력이 높고 일반적이지 않은 요약을 생성할 수 있는가?
• RQ4 ROUGE 점수와 요약 품질에 대한 인간 평가에서 이 모델은 최신 기준 방법과 비교해 어떤가?
• RQ5 적대적 과정이 생성된 요약의 개괄적 성격을 어느 정도 향상시키는가?

주요 결과

• 제안된 모델은 CNN/Daily Mail 데이터셋에서 각각 ROUGE-1, ROUGE-2, ROUGE-L 점수 39.92, 17.65, 36.71을 기록하여 모든 베이스라인을 초월한다.
• 적대적 훈련 이후, 사전 훈련된 생성기 베이스라인 대비 ROUGE-1과 ROUGE-2 점수 각각 1.10점, 0.84점 향상되었다.
• 인간 평가 결과, 모델은 5점 만점에 평균 독해력 점수 4.01을 기록하여 다음으로 우수한 방법(3.81)보다 유의미하게 높아, 유창성과 일관성이 향상됨을 시사한다.
• 정성적 분석 결과, 모델이 원본 텍스트에 존재하지 않는 새로운 어휘를 포함하는 더 다양한 개괄적 요약을 생성함을 확인할 수 있었다.
• 정책 그래디언트와 판별기 피드백의 조합은 노출 편향을 효과적으로 완화하고 일반적인 어휘에 대한 의존도를 감소시켰다.
• 판별기의 진짜 요약과 생성된 요약을 구분하는 능력은 반복적으로 향상되어, 생성기의 출력이 점차 더 현실적이고 고품질이 되었다.