[논문 리뷰] Improving Multi-Document Summarization via Text Classification

Ziqiang Cao, Wenjie Li외 2명|arXiv (Cornell University)|2016. 11. 28.

Topic Modeling인용 수 43

한 줄 요약

이 논문은 텍스트 분류 데이터를 활용하여 공유되는 분산 문서 표현을 학습하고, 카테고리별로 특화된 변환을 적용하여 적절한 스타일의 요약을 생성함으로써 요약 성능을 향상시키는 TCSum이라는 새로운 다중 문서 요약 시스템을 제안한다. 수작업 특징 없이 DUC 벤치마크에서 최고 성능을 기록하며, 다양한 문서 카테고리 간의 스타일 적응 능력이 향상됨을 보여준다.

ABSTRACT

Developed so far, multi-document summarization has reached its bottleneck due to the lack of sufficient training data and diverse categories of documents. Text classification just makes up for these deficiencies. In this paper, we propose a novel summarization system called TCSum, which leverages plentiful text classification data to improve the performance of multi-document summarization. TCSum projects documents onto distributed representations which act as a bridge between text classification and summarization. It also utilizes the classification results to produce summaries of different styles. Extensive experiments on DUC generic multi-document summarization datasets show that, TCSum can achieve the state-of-the-art performance without using any hand-crafted features and has the capability to catch the variations of summary styles with respect to different text categories.

연구 동기 및 목표

• 제한된 주석이 부여된 훈련 데이터로 인해 발생하는 다중 문서 요약의 성능 저하 문제를 해결하기 위해.
• 풍부한 텍스트 분류 데이터셋을 활용하여 더 나은 문서 표현을 학습함으로써 요약 성능을 향상시키기 위해.
• 다양한 문서 카테고리 간의 요약 구조 변화를 모델링하여 스타일 적응형 요약을 가능하게 하기 위해.
• 수작업 특징에 의존하지 않는 데이터 기반 요약 시스템을 개발하기 위해.

제안 방법

• 텍스트 분류와 요약 간에 공유되는 문서 임베딩 모델을 공유하며, CNN 기반 분류기를 사용하여 문서를 분산 표현으로 매핑한다.
• 동일한 문서 임베딩을 요약에 사용하며, 예측된 문서 카테고리에 따라 변환층을 적용하여 요약 스타일을 적응시킨다.
• 카테고리별로 특화된 변환 행렬을 학습하여 문서 임베딩을 중요도 점수로 매핑하며, 기준 요약의 의미와 일치시킨다.
• 수작업 특징 없이, 단지 학습된 표현과 분류 레이블에 의존하는 엔드 투 엔드 신경망 훈련을 사용한다.
• 변환된 임베딩을 통해 문장 중요도를 예측하며, 카테고리 인식 변환 과정에 의해 순서가 지정된다.

실험 결과

연구 질문

• RQ1 텍스트 분류 데이터를 활용하면 다중 문서 요약 시스템의 성능이 향상될 수 있는가?
• RQ2 공유되는 분산 표현이 텍스트 분류와 요약 작업을 효과적으로 연결할 수 있는가?
• RQ3 모델은 문서 카테고리에 따라 적절한 스타일의 요약을 생성할 수 있는가?
• RQ4 수작업 특징 없이 데이터 기반 접근 방식이 요약에서 최고 성능을 달성할 수 있는가?

주요 결과

• TCSum은 수작업 특징 없이 DUC 일반 다중 문서 요약 벤치마크에서 최고 성능을 기록한다.
• 모델은 자연재해, 인물사진, 정치 등 다양한 문서 카테고리 간의 요약 스타일 변화를 성공적으로 포착한다.
• 카테고리별로 특화된 변환 행렬은 중요도 예측을 각 카테고리의 기대 내용 집중과 일치시킴으로써 요약 품질을 향상시킨다.
• 카테고리 외부의 문서에 대해서도 변환 행렬이 핵심 스타일 요소(예: 자연재해 요약의 날짜 및 손실 지표)를 유지함으로써 강건성을 입증한다.
• 수작업 특징에 크게 의존하는 기존의 학습 기반 시스템보다 모델이 뛰어난 성능을 보이며, 텍스트 분류에서의 전이 학습의 효과성을 입증한다.