[논문 리뷰] Abstractive Multi-Document Summarization via Phrase Selection and Merging

Lidong Bing, Piji Li외 4명|arXiv (Cornell University)|2015. 06. 04.

Topic Modeling참고 문헌 48인용 수 36

한 줄 요약

이 논문은 정수선형계획법(ILP)을 사용하여 입력 문서에서 주요 명사구와 동사구를 선택하고 융합함으로써 새로운 문장을 구성하는 개괄적 다중문서 요약 프레임워크를 제안한다. 문장 수준이 아닌 어휘 수준에서 작동함으로써 이 방법은 더 높은 내용 커버리지와 TAC 2011 벤치마크에서 피라미드 평가 지표 하에 최신 기술 수준을 초월하는 성능을 달성한다.

ABSTRACT

We propose an abstraction-based multi-document summarization framework that can construct new sentences by exploring more fine-grained syntactic units than sentences, namely, noun/verb phrases. Different from existing abstraction-based approaches, our method first constructs a pool of concepts and facts represented by phrases from the input documents. Then new sentences are generated by selecting and merging informative phrases to maximize the salience of phrases and meanwhile satisfy the sentence construction constraints. We employ integer linear optimization for conducting phrase selection and merging simultaneously in order to achieve the global optimal solution for a summary. Experimental results on the benchmark data set TAC 2011 show that our framework outperforms the state-of-the-art models under automated pyramid evaluation metric, and achieves reasonably well results on manual linguistic quality evaluation.

연구 동기 및 목표

• 문장 경계로 인해 제한되는 추출형 및 압축 기반 요약의 한계를 해결하기 위해.
• 문장 수준이 아닌 어휘 수준(명사구 및 동사구)에서 작동함으로써 다중문서 요약에서 내용 커버리지와 간결성을 향상시키기 위해.
• 일관성 있는 문장 생성을 보장하기 위해 문법적 및 의미적 제약 조건을 만족시키면서도 총 주요성과 내용 커버리지를 극대화하는 전역 최적화 프레임워크를 개발하기 위해.
• 구문 단위 융합을 통해 다수의 소스 문장에서 사실을 융합함으로써 더 개괄적인 요약 생성을 가능하게 하기 위해.

제안 방법

• 스탠фор드 파서를 사용하여 구성 트리에서 명사구(NPs)와 동사-목적어 구문(VPs)을 추출하여 핵심 개념과 사실을 표현한다.
• 어휘 빈도와 문서 간 분포를 고려한 전역 중복 감안 방법을 사용하여 각 어휘의 주요성 점수를 계산한다.
• 요약 내용 단위(SCUs)의 최대 커버리지를 확보하기 위해 어휘 선택과 융합을 동시에 최적화하는 정수선형계획법(ILP) 최적화 문제로 문장 생성을 모델링한다.
• 생성된 문장의 문법적 및 의미적 일관성을 확보하기 위해 명사구와 동사구 간의 호환성 제약 조건을 정의한다.
• 어휘 융합 이후 문장 순서와 독해성 향상을 위한 후처리 단계를 적용한다.
• 선택된 어휘의 총 주요성을 극대화하면서도 문법적 및 의미적 제약 조건을 만족시키는 전역 최적화 목표를 사용한다.

실험 결과

연구 질문

• RQ1 어휘 수준의 개괄적 요약이 다중문서 요약 과제에서 문장 수준 방법보다 내용 커버리지와 간결성 측면에서 뛰어나게 작용할 수 있는가?
• RQ2 정수선형계획법 접근이 어휘 선택과 융합을 동시에 최적화하는 데 있어 얼마나 효과적인가?
• RQ3 다른 소스 문장의 사실을 융합함으로써 추출형 또는 압축 기반 방법에 비해 요약 품질이 얼마나 향상될 수 있는가?
• RQ4 문장 수준의 주요성 점수에 비해 어휘 수준에서 계산된 주요성 점수는 핵심 정보 단위를 얼마나 잘 포착하는가?
• RQ5 융합된 어휘에서 새로운 문장을 생성할 때 문법적 및 의미적 타당성을 확보하기 위해 필요한 제약 조건은 무엇인가?

주요 결과

• 제안된 프레임워크는 자동 피라미드 평가 지표 하에 TAC 2011 벤치마크에서 최신 기술 수준을 초월하며, 더 뛰어난 내용 커버리지와 주요성을 입증한다.
• 수동적 언어 품질 평가에서 합리적인 성능을 기록하여, 개괄적 요약임에도 불구하고 유창하고 일관성 있는 요약이 생성되었음을 시사한다.
• 어휘 수준의 단위를 사용함으로써 문장 융합 또는 추출 방법에 비해 문장당 더 많은 요약 내용 단위(SCUs)를 포함할 수 있었다.
• 정수선형계획법 공식화가 주요성 극대화와 문법적·의미적 제약 조건 간의 균형을 성공적으로 유지하여 전역 최적의 어휘 선택 및 융합을 이끌었다.
• 프레임워크의 주요한 성능 저하 요인은 시간이 오래 걸리는 ILP 최적화이므로, 향후 효율성 향상의 필요성이 제기된다.