[논문 리뷰] Abstract Meaning Representation for Multi-Document Summarization

Kexin Liao, Logan Lebanoff외 1명|arXiv (Cornell University)|2018. 06. 14.

Topic Modeling참고 문헌 54인용 수 78

한 줄 요약

이 논문은 추상적 다문서 요약을 생성하기 위한 의미 표현으로 Abstract Meaning Representation (AMR)을 사용하는 것을 연구하고, 소스 문장 선택, 내용 계획, 표면화를 포함한 전체 AMR 기반 파이프라인을 제시한다.

ABSTRACT

Generating an abstract from a collection of documents is a desirable capability for many real-world applications. However, abstractive approaches to multi-document summarization have not been thoroughly investigated. This paper studies the feasibility of using Abstract Meaning Representation (AMR), a semantic representation of natural language grounded in linguistic theory, as a form of content representation. Our approach condenses source documents to a set of summary graphs following the AMR formalism. The summary graphs are then transformed to a set of summary sentences in a surface realization step. The framework is fully data-driven and flexible. Each component can be optimized independently using small-scale, in-domain training data. We perform experiments on benchmark summarization datasets and report promising results. We also describe opportunities and challenges for advancing this line of research.

연구 동기 및 목표

• 다문서 요약을 위한 내용 표현으로 AMR의 가능성을 평가한다.
• 여러 소스의 내용을 요약 AMR 그래프로 압축하고 이를 텍스트로 구현하는 데이터 기반 파이프라인을 개발한다.
• 표준 데이터셋에서 AMR 기반 요약을 최첨단 기준과 비교 평가한다.
• 요약 성능에 대한 AMR 파서와 소스 문장 선택 전략의 영향력을 분석한다.

제안 방법

• 세 가지 구성요소 파이프라인: 소스 문장 선택, 내용 계획, 표면화(생성).
• 선택된 문장을 JAMR 또는 CAMR 파서를 사용해 AMR 그래프로 변환한다.
• 다중 그래프를 핵심참조 해석으로 연결된 소스 그래프로 병합한다.
• ILP 디코딩과 구조적 램프 손실(structured ramp loss)을 이용한 학습 가능한 구조적 예측 프레임워크를 통해 요약 그래프를 추출한다.
• 요약 AMR 그래프를 PENMAN 형식으로 변환하고 JAMR AMR-to-text 생성기로 텍스트를 생성한다.

실험 결과

연구 질문

• RQ1 AMR이 추상적 다문서 요약을 위한 효과적인 내용 표현으로 사용할 수 있는가?
• RQ2 AMR 파서와 소스 문장 선택 전략이 요약 품질에 어떤 영향을 미치는가?
• RQ3 구조적 예측 접근법이 출처 AMR 그래프 군집으로부터 얼마나 중요한 요약 그래프를 생성할 수 있는가?
• RQ4 표준 벤치마크에서 AMR 기반 요약이 신경 인코더-디코더 대안과 어떻게 비교되는가?

주요 결과

• AMR 기반 요약은 벤치마크 데이터셋에서 최첨단 추상적 베이스라인과 경쟁력이 있다.
• 개념 기반 소스 문장 선택(Concept Cov)을 사용하면 요약 그래프에서 노드 보존이 더 강하게 나타난다.
• VSM 기반 간선 예측이 요약 관계를 가장 잘 보존하며, 오라클 디코딩이 성능을 더욱 향상시킨다.
• AMR 파서 품질이 요약에 영향을 미치며, 이 설정에서 JAMR이 CAMR보다 약간 더 나은 성능을 보인다.
• AMR 기반 방법으로 생성된 요약은 많은 추출적 베이스라인보다 더 추상적이며, 포인터-제너레이터 변형과 비교하면 원문과의 n-그램 중복도도 더 낮다.