[논문 리뷰] Coherent Comment Generation for Chinese Articles with a Graph-to-Sequence Model

Wei Li, Jingjing Xu외 4명|arXiv (Cornell University)|2019. 06. 04.

Topic Modeling참고 문헌 29인용 수 9

한 줄 요약

이 논문은 중국어 뉴스 기사에서 주제 상호작용 그래프를 구성하는 그래프-시퀀스 모델을 제안하여 일관성 있고 정보적인 코멘터리 생성을 향상시킨다. 주제 클러스터와 그들의 의미적 관계를 모델링함으로써, 새로 수집한 200,000개 샘플로 구성된 중국어 뉴스-코멘터리 코퍼스에서 어휘성, 일관성, 정보성 측면에서 강력한 베이스라인을 능가한다.

ABSTRACT

Automatic article commenting is helpful in encouraging user engagement and interaction on online news platforms. However, the news documents are usually too long for traditional encoder-decoder based models, which often results in general and irrelevant comments. In this paper, we propose to generate comments with a graph-to-sequence model that models the input news as a topic interaction graph. By organizing the article into graph structure, our model can better understand the internal structure of the article and the connection between topics, which makes it better able to understand the story. We collect and release a large scale news-comment corpus from a popular Chinese online news platform Tencent Kuaibao. Extensive experiment results show that our model can generate much more coherent and informative comments compared with several strong baseline models.

연구 동기 및 목표

• 긴 형식의 중국어 뉴스 기사에 대해 일관성 있고 정보적인 코멘터리를 생성하는 데 도전하는 것. 기존 순차적-순차적 모델은 길이와 의미 복잡성으로 인해 이에 어려움을 겪는다.
• 제목만 또는 짧은 텍스트 입력으로는 의미 있는 코멘터리 생성에 필요한 충분한 맥락을 전달하지 못하는 한계를 극복하는 것.
• 그래프 기반 표현을 통해 뉴스 기사의 내부 주제 구조와 주제 간 관계를 모델링함으로써 코멘터리 품질을 향상시키는 것.
• 제목과 내용을 통합된 그래프 구조에 통합하는 공동 모델링 접근법을 개발하여 주요 서사 포인트를 더 잘 포착하는 것.
• 향후 자동 코멘터리 생성 연구를 지원하기 위해 대규모 실생활 중국어 뉴스-코멘터리 데이터셋(200,000개 샘플)을 공개하는 것.

제안 방법

• 기사 내용과 제목에서 주제 중심 문장 클러스터를 식별하여 주제 상호작용 그래프를 구성하며, 각 클러스터는 정점으로 구성된다.
• 주제 클러스터 간 의미적 유사도를 기반으로 정점 간 간선을 정의하며, 사전 학습된 문장 임베딩을 사용해 쌍별 관계를 계산한다.
• 제목을 특수 정점으로 통합하여 주제의 중심을 고정하고, 코멘터리 생성 과정에서 중심 서사를 유도한다.
• 그래프 구조를 참조하는 그래프-시퀀스 디코더를 활용하여, 코멘터리 생성 중 관련 주제 클러스터에 주의를 기울일 수 있도록 한다.
• 명사어 및 핵심 용어를 입력에서 그대로 유지하기 위해 포인터-제너레이터 네트워크와 복사 메커니즘을 사용하여 사실 일관성을 향상시킨다.
• 생성된 코멘터리 시퀀스에 대해 교차 엔트로피 손실을 사용하여 엔드 투 엔드로 모델을 훈련시키며, 추론 시 빔 서치를 적용한다.

실험 결과

연구 질문

• RQ1 순차적 또는 계층적 모델에 비해 그래프 기반 표현이 뉴스 기사의 내부 주제 구조와 주제 간 관계를 더 잘 포착할 수 있는가?
• RQ2 주제 상호작용 그래프에 제목을 전용 정점으로 통합함으로써 모델이 주요 서사 포인트를 식별하는 데 도움이 되는가?
• RQ3 그래프-시퀀스 모델이 순차적-순차적 또는 계층적 어텐션 모델보다 더 일관성 있고 정보적인 코멘터리를 생성할 수 있는가?
• RQ4 모델은 특정 인물이나 플롯 포인트에 특화된 코멘터리를 생성하는 데 얼마나 효과적인가? 일반적이거나 관련 없는 의견은 얼마나 줄어드는가?
• RQ5 그래프 구조는 모델이 세계 지식과 모순되거나 실체를 잘못 식별하는 코멘터리를 생성하는 데 얼마나 기여하는가?

주요 결과

• 제안된 graph2seq 모델은 모든 베이스라인 대비 고유어 수와 일반적 코멘터리 비율 감소를 통해 정보성 측면에서 뚜렷한 향상을 보였다.
• 모델은 85%의 생성된 코멘터리가 핵심 인물이나 플롯 포인트를 언급하는 등 가장 높은 일관성과 주제 특이성을 보였으며, 최고의 베이스라인 대비 50%에 그쳤다.
• 인간 평가 기반 일관성 점수는 강력한 베이스라인(자기 어텐션 모델) 대비 12% 향상되었고, 일반적 코멘터리 비율은 20% 감소했다.
• 사례 연구 결과, 오직 graph2seq 모델만 뉴스 기사의 주요 인물(왕리쿤)을 정확히 식별하고 참조하는 것으로 확인되었다.
• 어휘성 점수는 베이스라인과 유사하여, 그래프 구조가 복잡성 증가에도 불구하고 문법적 품질을 해치지 않았다.
• 입력 순서가 비논리적이더라도 의미 있는 코멘터리를 생성할 수 있어, 모델이 입력 순서의 어수선함에 대해 강건함을 입증했다.