[논문 리뷰] ScisummNet: A Large Annotated Corpus and Content-Impact Models for Scientific Paper Summarization with Citation Networks

Michihiro Yasunaga, Jungo Kasai외 5명|arXiv (Cornell University)|2019. 09. 04.

Topic Modeling인용 수 42

한 줄 요약

과학 논문 요약을 위한 대형 수동 주석 코퍼스(1,000개 ACL 논문)를 도입하고, 인용 범위와 Graph Convolutional Networks를 통한 연구 커뮤니티의 시각을 저자의 초록과 결합한 하이브리드 콘텐츠-임팩트 모델을 제안한다.

ABSTRACT

Scientific article summarization is challenging: large, annotated corpora are not available, and the summary should ideally include the article's impacts on research community. This paper provides novel solutions to these two challenges. We 1) develop and release the first large-scale manually-annotated corpus for scientific papers (on computational linguistics) by enabling faster annotation, and 2) propose summarization methods that integrate the authors' original highlights (abstract) and the article's actual impacts on the community (citations), to create comprehensive, hybrid summaries. We conduct experiments to demonstrate the efficacy of our corpus in training data-driven models for scientific paper summarization and the advantage of our hybrid summaries over abstracts and traditional citation-based summaries. Our large annotated corpus and hybrid methods provide a new framework for scientific paper summarization research.

연구 동기 및 목표

• 요약에 필요한 데이터 부족 해결을 위해 요약이 포함된 1,000편의 ACL Anthology 논문으로 구성된 대형 수동 주석 코퍼스를 생성한다.
• 저자의 초록과 커뮤니티 영향(인용)을 통합한 하이브리드 요약 모델을 개발하여 더 포괄적인 요약을 제공한다.
• 초록 및 인용만으로의 방법보다 요약 품질을 개선하기 위해 인용 네트워크와 그래프 기반 신경 아키텍처를 활용한다.

제안 방법

• ACL Anthology의 1,000개의 참고 문헌(RPs)에 대한 대형 수동 주석 코퍼스를 만들어 들어오는 인용 문장과 전문가가 작성한 금본 요약을 포함한다.
• 입력 I를 RP 초록과 들어오는 인용으로부터 식별된 인용 텍스트 범위의 합집합으로 구성하여 커뮤니티의 관점을 반영한다.
• tf-idf 코사인 유사도를 이용한 문장 관계 그래프를 구축하고 Graph Convolutional Network (GCN)를 적용하여 입력 문장을 인코딩하고 중요도 점수를 도출한다.
• 주요도 점수에 의해 안내되는 그리디 추출 요약을 사용하여 추상과 인용 범위를 결합한 하이브리드 1 또는 추상에 중요한 인용 범위를 보강하는 하이브리드 2를 구성한다.
• 출처 영향력을 반영하기 위해 각 인용 범위에 인용 수 기반의 권위 특성을 도입한다.
• 타깃 ROUGE 파생 중요도에 대한 교차 엔트로피 손실을 사용하여 문장 인코딩용 LSTM, 2계층 GCN, 소프트맥스 중요도 추정으로 엔드-투-엔드 신경망 모델을 학습한다.

실험 결과

연구 질문

• RQ1 대형 수동 주석 코퍼스가 데이터 기반 신경 모델이 기존의 작고 비슷한 데이터셋보다 과학 논문 요약에서 더 나은 성능을 내도록 만들 수 있는가?
• RQ2 저자의 초록과 연구 커뮤니티의 시각을 결합한 하이브리드 요약 방식이 단순한 초록 또는 인용 기반 요약보다 더 포괄적인 요약을 제공하는가?
• RQ3 인용 권위 정보를 도입하는 것이 과학 논문 요약의 품질을 향상시키는가?
• RQ4 CL-SciSumm 벤치마크에서 표준 ROUGE 지표에 대해 하이브리드 모델이 기준값과 어떻게 비교되는가?

주요 결과

• 1,000개의 예제 코퍼스가 이 데이터를 학습했을 때 신경 모델이 CL-SciSumm 벤치마크에서 모든 이전 참가자들을 능가하도록 한다.
• 초록과 인용 텍스트 범위를 결합한 하이브리드 모델은 초록만 또는 인용 텍스트 범위만 접근법보다 더 포괄적인 요약을 만들어낸다.
• 하이브리드 2(중요한 인용 텍스트 범위를 초록에 보강)는 ROUGE-2, ROUGE-3, SU4-F 지표 전반에 걸쳐 하이브리드 1 및 베이스라인을 일관되게 능가한다.
• 권위 특성의 사용은 성능을 더 향상시키고 더 영향력 있는 논문에서의 인용이 더 높은 품질의 요약에 기여함을 시사한다.
• 정성적 예시는 하이브리드 요약이 저자의 동기와 커뮤니티에 의해 영향을 받은 기술적 세부 정보를 모두 포착하여 RP의 커버리지를 향상시킨다는 것을 보여준다.