[논문 리뷰] Revisiting the Centroid-based Method: A Strong Baseline for Multi-Document Summarization

Demian Gholipour Ghalandari|arXiv (Cornell University)|2017. 08. 25.

Topic Modeling참고 문헌 7인용 수 7

한 줄 요약

이 논문은 요약 자체를 중심점으로 간주하고 탐욕 알고리즘을 사용하여 문서 컬렉션 중심점과의 유사도를 최대화함으로써 요약 품질을 최적화하는 수정된 중심점 기반 방법을 제안한다. 이 방법은 DUC2004에서 최신 기술 수준의 ROUGE 점수를 달성하며 원래 방법을 능가하고 복잡한 모델과도 맞먹는 성능을 보이며, 빠르고 비지도 학습이며 쉽게 구현 가능하다.

ABSTRACT

The centroid-based model for extractive document summarization is a simple and fast baseline that ranks sentences based on their similarity to a centroid vector. In this paper, we apply this ranking to possible summaries instead of sentences and use a simple greedy algorithm to find the best summary. Furthermore, we show possi- bilities to scale up to larger input docu- ment collections by selecting a small num- ber of sentences from each document prior to constructing the summary. Experiments were done on the DUC2004 dataset for multi-document summarization. We ob- serve a higher performance over the orig- inal model, on par with more complex state-of-the-art methods.

연구 동기 및 목표

• 기존 중심점 기반 추출형 다중문서 요약 방법의 성능을 향상시키는 것.
• 문장 순위 매기기 대신 요약 후보에 대한 전역 최적화가 더 나은 결과를 낼 수 있는지 조사하는 것.
• 효율적인 문장 사전 선택 전략을 통해 대규모 문서 컬렉션의 계산 비용을 줄이는 것.
• 복잡한 최신 기술 수준의 모델과 맞먹는 강력하고 단순하며 비지도 학습 기반의 기준 성능을 확립하는 것.

제안 방법

• 요약을 구성하는 문장 벡터의 벡터 합으로 표현하여 요약 중심점을 형성한다.
• 요약 중심점과 문서 컬렉션 중심점 간의 코사인 유사도를 계산하여 후보 요약을 점수화한다.
• 진행 중인 요약이 문서 중심점과 가장 유사해지도록 점진적으로 문장을 선택하는 탐욕 알고리즘을 사용한다.
• 입력 문장 수를 제한하고 효율성을 향상시키기 위해 문장 사전 선택 방법(N-first, N-best, New-TF-IDF)을 적용한다.
• 문장과 중심점에 대해 TF-IDF 가중 Bag-of-Words 표현을 사용한다.
• 중요도가 높은 용어만 유지하기 위해 중심점 벡터 값에 임계값을 조정하여 안정성을 향상시킨다.

실험 결과

연구 질문

• RQ1 문장 수준이 아닌 요약 수준에서 최적화하는 것이 추출형 다중문서 요약 성능을 향상시킬 수 있는가?
• RQ2 중심점 유사도 기반의 전역 최적화 전략이 명시적 중복 방지 필터링에 대한 의존도를 줄일 수 있는가?
• RQ3 다양한 문장 사전 선택 전략(N-first, N-best, New-TF-IDF)은 계산 비용을 줄이면서 성능을 유지하는 데 얼마나 효과적인가?
• RQ4 단순하고 비지도 학습 기반의 중심점 기반 방법이 표준 벤치마크에서 복잡한 최신 기술 수준의 모델과 경쟁 가능한 성능을 낼 수 있는가?

주요 결과

• 수정된 전역 중심점 방법은 DUC2004 데이터셋에서 원래 문장 순위 중심점 모델보다 높은 ROUGE 점수를 달성한다.
• 이 방법은 비지도 학습이며 학습이 필요 없음에도 불구하고, 더 복잡한 최신 기술 수준의 모델과 성능이 맞먹는다.
• N-best 및 New-TF-IDF 사전 선택 방법은 N-first보다 더 높은 품질의 요약을 생성하며, 특히 후반 문장의 핵심 내용을 잘 포착한다.
• 전역 최적화 접근 방식은 중복 문장 조합이 중심점 유사도가 낮아지므로 자연스럽게 처벌되므로 명시적 중복 방지 필터링에 대한 의존도를 줄인다.
• 사전 선택 전략은 계산 시간을 크게 줄이며, 특히 전역 최적화와 조합했을 때 요약 품질을 유지하거나 향상시킨다.
• 중심점 벡터에서 값이 낮은 용어를 제거하는 전략 덕분에 다양한 입력 크기에서 안정성이 유지된다.